深度分析
McDiffuSE:以 MCTS 規劃槽位順序提升 Masked Diffusion Models 的生成品質
背景:擴散語言模型的槽位填充順序會顯著影響生成品質。方法:McDiffuSE把槽位選擇視為決策問題,利用蒙地卡羅樹搜尋透過前瞻模擬與模型置信先驗搜尋最佳填充順序,混合即時置信與 rollout 回報。結果:在多個推理與程式碼基準上明顯提升正確率,程式碼任務增益尤其顯著。
深度分析
背景:擴散語言模型的槽位填充順序會顯著影響生成品質。方法:McDiffuSE把槽位選擇視為決策問題,利用蒙地卡羅樹搜尋透過前瞻模擬與模型置信先驗搜尋最佳填充順序,混合即時置信與 rollout 回報。結果:在多個推理與程式碼基準上明顯提升正確率,程式碼任務增益尤其顯著。
深度分析
面對知識圖上多跳機制說明的組合爆炸與信用回溯問題,研究提出Tessera,一套結合大型語言模型(LLM)、知識圖與蒙地卡羅樹搜尋(MCTS)的神經符號框架。設計上讓LLM負責局部判別(作為探索先驗與狀態評分),由知識圖嚴格限定假設空間,再由MCTS進行長程搜尋與回傳信用。