Transformer‑XL

深度分析

Fast–Slow 循環模型 (FSRM)：結合潛在遞迴與 Fast‑Slow Training 的長程序列推理新框架

研究延伸潛在遞迴模型，提出快速‑慢速循環模型(FSRM)以觀測慢速、推理快速雙通道同時更新，實驗顯示在Dyck與迷宮等長程任務上保持約90%正確率，並優於LSTM、Transformer等基線。模型在不同長度序列上保持表現，減少對基線策略的位移，提升持續學習能力。