Schrödinger Bridge

深度分析

Cobras 框架：將 LLM 激活導向轉化為薛定谔橋數學優化問題

針對大型語言模型推理時的激活導向缺乏理論基礎且易導致分佈外性能下降的問題，研究團隊推出 Cobras 框架。該技術將激活導向建模為超球面上的薛定谔橋問題，利用熵最適傳輸導出嚴謹的對數密度比目標，並實現根據查詢動態調整的導向方向。實驗證明 Cobras 在提升模型真實性與去毒化效果的同時，能有效避免分佈外數據的性能崩潰。