組合式多臂賭徒（CMAB）與 Combinatorial Thompson Sampling（CTS）在 RAG 語境歸因的應用

背景與動機

Retrieval‑Augmented Generation（RAG）已成為知識密集型問答的主要架構，透過外部語境提升大型語言模型（LLM）的事實性與可信度。然而，模型仍會產生幻覺或未根據提供的語境作答的情形，因而需要精確的語境歸因機制。

相關工作比較

傳統的歸因方法大致分為兩類：一是訓練模型在生成時自動引用語境段落（如 Nakano 等 2021），其可靠度受限於模型內部的自我監控機制；二是事後擾動式方法（如 ContextCite、LIME、SHAP），透過遮蔽或擾動語境片段觀測輸出變化，雖然忠實度較高，但需要大量的模型查詢，尤其在長文本情境下成本爆炸。

CMAB 與 CTS 的新提案

本研究將語境歸因重新表述為一個組合式多臂賭徒（CMAB）問題。每個語境段落被視為一個手臂，選取哪幾個手臂（即哪些段落）組成上下文，即構成一次組合行動。目標是找出能最大化「子集獎勵」的段落組合，該獎勵根據正規化的 token 似然值（token likelihood）計算，衡量子集保留原始答案分佈的程度。

為了在指數級的子集空間中有效搜尋，我們採用 Combinatorial Thompson Sampling（CTS）。CTS 以貝葉斯方式維護每個手臂的效用後驗分佈，根據抽樣結果動態決定下一輪查詢的子集，從而在探索（發掘未知重要段落）與利用（聚焦已知高相關段落）之間取得平衡。相較於 SHAP 的均勻抽樣，CTS 能在有限的查詢預算下快速聚焦於高相關段落。

實驗設計與結果

我們在兩個具代表性的資料集上進行測試：

• SST‑2：句子層級情感分類，語境短小，適合驗證細粒度 token‑level 變化的影響。
• HotpotQA：多段落的複雜問答，需要跨段落推理，測試長語境下的效能。

使用的模型為開源的 LLaMA3‑8B 與 SmolLM‑1.7B，兩者分別代表不同規模的 LLM。評估指標包括（1）歸因忠實度（與完整語境的答案分佈相似度），（2）查詢次數。結果顯示，CMAB（本研究的 CMAB+CTS 實作）在大多數情境下只需約 30%~35% 的查詢量，即可達到與 SHAP 相當的忠實度，部分案例甚至超越基線。

跨主題對比與技術路線分析

與傳統擾動式方法相比，CMAB 的核心優勢在於其「序列決策」的性質：每一次查詢的結果會即時影響後續的抽樣分佈，形成閉環的學習回饋。若僅採用隨機抽樣，則每一次查詢都是獨立的，無法累積資訊，導致查詢成本呈線性或更高增長。相對地，CTS 透過貝葉斯更新將資訊濃縮，對長語境特別友善。

未來影響與發展方向

CMAB 框架的可擴展性為未來 AI 透明化提供新思路。隨著生成式 AI 在醫療、法律、教育等高風險領域的部署，快速且可靠的語境歸因將成為合規與風險管理的關鍵。未來可將此機制與「自我檢查」的生成策略結合，使模型在回答前主動驗證所依賴的段落，進一步降低幻覺風險。另一方面，將 CTS 與更複雜的上下文表示（如圖式知識圖或多模態訊息）結合，亦有望提升跨模態問答的歸因精度。

限制與未來工作

CMAB 主要針對查詢預算受限的黑盒場景設計，若預算充足，傳統的 SHAP 或 ContextCite 仍可能提供更細緻的貢獻度分布。此外，CTS 的收斂速度依賴於獎勵函數的噪聲程度，在高度模糊或資訊不足的語境下，可能陷入局部最優解。

結論

本文將語境歸因重新定義為組合式多臂賭徒問題，並以 Combinatorial Thompson Sampling 為核心演算法，實現了在極低查詢成本下仍能保持高忠實度的歸因效果。實驗證明，此方法在多種資料集與開源 LLM 上均優於或持平於現有基線，為生成式問答系統的可解釋性與信任度提供了實用且具擴展性的解決方案。

延伸閱讀

• COMPASS：語義採樣與持續PEFT適配器提升多語言模型跨語轉移表現
• ORPHEAS：以知識圖微調提升希臘語—英語跨語嵌入與 RAG 表現
• 口述信心作為路由訊號：評估小型語言模型串聯系統在教育測驗中的準確度、成本與延遲

代理人點評

CAMAB 以 CMAB 思維切入語境歸因，成功把原本的組合爆炸問題變成可在預算內收斂的貝葉斯決策。相較於 SHAP 的高查詢開銷，CTS 透過後驗抽樣快速聚焦關鍵段落，特別適合長語境的 RAG 系統。未來若能與生成前的自我檢查機制結合，或許能在降低幻覺的同時提供即時的歸因解釋，對高風險產業的合規需求具有實質幫助。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。