模型抑制

速報

注意力缺口：窄任務指令抑制AI安全訊號的機制揭露

研究指出，當AI模型被限定執行特定任務時，會出現類似注意盲點的現象，抑制同時存在的安全訊號。實驗涵蓋放射科影像與自動駕駛文字，報告率最高下降0.92，且專屬排除指令可完全阻斷報告。此發現揭示評測安全與實際安全的脫節，呼籲採用完整報告評估以降低風險。