自我條件化遮罩擴散模型

深度分析

自我條件化遮罩擴散模型（SCMDM）提升離散序列生成效能的實驗分析

遮罩擴散模型在離散序列生成上受限於無法重用先前的乾淨預測，研究提出自我條件化遮罩擴散模型（SCMDM）於每一步回傳先前預測，顯著降低生成困惑度並提升品質。於自然語言與影像等領域，SCMDM 分別將困惑度降至 23.72、FID 改善 9%。相較於需額外架構或從頭訓練的方案，SCMDM 僅需輕量後處理即可兼容既有模型。