大型語言模型路由

深度分析

關聯感知上下文多臂賭局與代理獎勵：提升大型語言模型路由效率的 CABS‑C 與 CABS‑D 方法

隨著大型語言模型數量激增，選擇最適模型成系統挑戰。研究提出結合關聯圖與代理獎勵的上下文賭局演算法CABS-C與CABS-D，利用預測降低探索成本，同時在代理錯誤時保持魯棒性。實驗顯示樣本效率提升，成本效益優於傳統基線。並為未來模型選擇提供新思路。