循環式Transformer

速報

Loopie 問世：循環式 Transformer 新架構，20B 參數模型以 2B 活躍參數超越傳統基準

研究團隊推出 Loopie，為目前最強的循環式 Transformer。該系列含 20B（2B 活躍）與 6B（0.6B 活躍）兩種 MoE 模型。Loopie 解決了循環模型擴展不如直接增加參數的難題，在同等算力下大幅超越傳統基準。2025 年 IMO 與 IPhO 中，Loopie 無工具即達金牌水準。