D5P4：針對離散擴散模型的全新 Beam‑style 解碼方法

離散擴散模型被視為文本生成的有前景替代方案，但其解碼方法仍缺乏系統研究。傳統的自回歸搜尋程序（例如 beam search）無法直接套用於迭代去噪，因為在擴散過程中，假設是完整的中間序列，而非左到右的前綴。

D5P4：針對離散擴散的 Beam‑style 解碼

D5P4 將中間 beam 的選擇問題建模為分割式 Determinantal Point Process（DPP）下的最大後驗（MAP）推論。此做法產生一個模型內部的批次目標，能在不依賴外部驗證器的情況下，同時平衡生成品質與多樣性。

實驗與結果

研究在三類任務上進行測試：開放式文本生成、問答以及數學推理。結果顯示 D5P4 在提升多樣性與 pass@k 覆蓋率方面優於既有的擴散解碼方法，同時在品質與真實度上與基線模型持平或更佳。

這證明了在離散擴散模型的解碼階段，引入 DPP 相關的選擇機制可以有效改善生成結果的多樣性與覆蓋範圍，為未來的文本生成研究提供新方向。

延伸閱讀

• AADvark：以 FreeCAD、JSON 與四元數求解器實現可動組裝的代理式 CAD
• 主動推理與 empowerment：以量化指標界定 AI 的代理性
• 深度強化學習下的持久子網路：四足機器人中自我類表徵的形成與可重用性

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。