Activation-space Intervention

深度分析

多模態大模型 MLLM 的幻覺控制：從準確率到「可驗證性」的激活空間干預法

多模態 AI 幻覺並非全部相同，有些顯而易見，有些則極具誤導性。最新研究提出一種激活空間干預法，將幻覺分為「明顯」與「隱蔽」兩類，並透過獨立探針實現精細化控制，讓開發者能根據應用場景調整 AI 內容的可驗證程度，提升系統安全性。