Entanglement Wall

深度分析

突破「糾纏牆」？研究揭露 AI 活化空間探針無法精準區分上下文風險

針對 AI 安全檢測，本研究探討活化空間探針是否能區分主題相同但意圖不同的有害請求。研究團隊對 Llama 與 Qwen 等模型進行測試，發現探針雖能高效攔截大部分已知攻擊，但在處理高度相似的對照組時表現大幅下降。結果揭露了「糾纏牆」現象，顯示目前探針僅能作為廣泛風險篩選，無法獨立完成精準的上下文風險判定。