SimNPO

深度分析

Lacuna 測試平台揭露 LLM 卸載學習真相：SOTA 方法僅達成「行為掩蓋」而非實質刪除

大型語言模型常記憶敏感個資 PII，導致隱私風險。本研究推出 Lacuna 測試平台，透過將合成個資注入模型特定參數，建立首個具備地面真值的參數級定位評估體系。結果發現現有 SOTA 卸載學習法雖能掩蓋輸出，但並未真正刪除參數記憶，易受重新浮現攻擊影響。此發現強調了精準定位權重對於實現真正知識刪除的重要性。