提案者—評論者辯論：在程式可驗證任務中能否降低監督成本？
研究評估以辯論作為可擴展監督在程式可驗證任務的效用。採用提案者—評論者架構，假定辯論者較強、裁判較弱。當評論者分類能力顯著優於裁判，且裁判把評論視為需驗證的主張時，辯論優於諮詢；能力接近則效用不顯著或降低驗證率。研究亦發現去除反駁輪次不削弱效益，一次獨立評論可回收多數好處。
提案者—評論者辯論在可驗證任務的效用
研究指出，辯論能否改善裁判判斷，關鍵在於評論者是否具備比裁判更好的分類能力，以及裁判是否把評論當成可檢驗的主張來處理。若兩條件同時成立，辯論較單純諮詢能明顯提升正確性；否則效果有限甚至可能降低裁判的驗證率。
實驗採用程式性可驗證的程式碼與邏輯任務，並在「較強的辯論者／較弱的裁判」設定下比較提案者—評論者辯論與諮詢基線。結果顯示，在符合條件的模型配對上，辯論帶來統計上顯著的利得；在能力接近的配對上，則未觀察到改善，且裁判的驗證意願下降。
此外，作者做了反駁輪次的消融實驗，發現移除反駁並不會削弱裁判表現：一次獨立的評論已能回收多數好處，且推論成本更低。基於這些觀察，研究提出一個更廉價的監督原語（答覆、批評、裁判）及一個部署前的審核流程，用以預測辯論何時會帶來實際效益。
延伸閱讀
- BEAVER：企業資料倉儲中 Text-to-SQL 的檢索與生成瓶頸
- 企業AI架構：以SLM與知識外部化取代單體式大型語言模型推理
- 提升 LLM 可靠性的系統化提示技巧：角色化、負向、JSON 輸出、ARQ 與多假設抽樣
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
