速報
提升多工演算法推理能力:Branching Neural Networks 新架構問世
針對多個演算法推理任務同時執行時產生的干擾問題,研究團隊提出 Branching Neural Networks 新架構。該技術透過梯度親和力將任務遞迴地分區為樹狀結構,將複雜度從指數級降低至線性級。實驗證明此方法在 CLRS 基準測試中表現更佳,且運行時間減少 48% 並降低 26% 記憶體使用量,有效提升了多工演算法推理的效率與準確度。
速報
針對多個演算法推理任務同時執行時產生的干擾問題,研究團隊提出 Branching Neural Networks 新架構。該技術透過梯度親和力將任務遞迴地分區為樹狀結構,將複雜度從指數級降低至線性級。實驗證明此方法在 CLRS 基準測試中表現更佳,且運行時間減少 48% 並降低 26% 記憶體使用量,有效提升了多工演算法推理的效率與準確度。
速報
研究者將旋轉位置編碼(RoPE)應用於圖形資料,提出 Wave‑Induced Rotary Encodings(WIRE)透過圖拉普拉斯譜旋轉 token,將結構資訊注入注意力。實驗顯示在合成與真實圖形任務上皆有顯著提升,且在格點上還原為標準 RoPE,漸近與圖形有效阻抗相關,兼容線性注意力。