注意盲點

速報

AI 安全盲點：條件化模型導致的「Inattentional Gap」

研究指出，將大型語言或視覺模型限制在特定任務上，會抑制其報告同時存在的安全關鍵訊號，類似人類的注意盲點。實驗涵蓋放射學、駕駛文字與胸腔 X 光影像，發現在所有測試模型中均出現此現象，且規模擴大或使用推理模型皆無法消除。結果顯示，僅依賴既定測試項目評估安全性，可能忽視真實危害，呼籲重新檢視 AI 安全基準。