推理抽樣效率

深度分析

情境內搜索與自我反思：提升大型語言模型推理抽樣效率的理論與實證

本研究探討大型語言模型的情境內搜索（in‑context search），透過自我反思定位早期錯誤，將指數級抽樣需求降為多項式次數。理論證明若反思能早期定位錯誤，搜索效能可呈指數提升；反之則無優勢。實驗驗證此機制於真實推理模型上成立。對未來 AI 推理有深遠啟示。