規劃階段安全

深度分析

PlanFlip攻擊框架揭示多智能體系統規劃階段級聯放大漏洞

多智能體LLM系統的規劃階段存在致命安全漏洞。PlanFlip框架透過四種提示注入攻擊（目標置換、優先級反轉等），單次注入即可污染所有子任務。測試顯示GPT-5攻擊成功率達0.68，同質化管線的Critic完全無法察覺計畫被篡改，僅推理增強模型DeepSeek-R1能完全抵抗。