函式呼叫安全

深度分析

函式呼叫安全挑戰：MCP 與對抗性後綴下的 Function Hijacking

隨著具代理能力的人工智慧普及，函式呼叫成為擴充模型功能的界面，卻也帶來新攻擊面。研究提出「函式挾持攻擊」(FHA)，透過在函式描述中植入對抗性標記，誘導模型選擇攻擊者指定的工具，並展示對多種模型與場景的高成功率。此類攻擊顯示需要更嚴謹的防護與治理。