Fast‑Slow Training

快速緩慢循環模型潛在遞迴

深度分析

Fast–Slow 循環模型 (FSRM)：結合潛在遞迴與 Fast‑Slow Training 的長程序列推理新框架

研究延伸潛在遞迴模型，提出快速‑慢速循環模型(FSRM)以觀測慢速、推理快速雙通道同時更新，實驗顯示在Dyck與迷宮等長程任務上保持約90%正確率，並優於LSTM、Transformer等基線。模型在不同長度序列上保持表現，減少對基線策略的位移，提升持續學習能力。

雙通道 Fast‑Slow 訓練示意 LLM 強化提示

深度分析

Fast‑Slow Training (FST)：以提示族群與強化學習交替提升 LLM 後訓練效率

背景：大型語言模型常透過更新參數適應任務。方法：提出Fast‑SlowTraining，將慢速參數用強化學習更新，快速文本權重以提示族群演化並與模型交互。這讓訓練在多任務上更高效且保留模型可塑性。實驗涵蓋程式、數學與多跳事實驗證，顯示在多個任務上能以較少步數達到或超越僅參數更新的方法。