遮蔽擴散語言模型

深度分析

TimeROME‑DLM：首創無梯度、訓練免費的遮蔽擴散語言模型知識編輯框架

隨著遮蔽擴散語言模型（MDLM）崛起，傳統知識編輯因迭代去噪假設失效。研究提出TimeROME‑DLM，利用時間間接效應因果追蹤定位殘差座標，並以低階矩陣更新於推論階段完成知識刪除與保留。實驗顯示在多種8B級MDLM上可在不增顯存的情況下降低忘記事實機率近83 nats，且推論速度提升四至十四倍。