AI 安全

深度分析

語意感知通用擾動 (SAUP) 攻擊多模態大語言模型決策鏈的安全風險分析

本研究指出單一擾動即可劫持多模態大語言模型的決策鏈，提出語意感知通用擾動（SAUP）並設計SORT優化演算法，以正規化空間與語意分離提升成功率，實驗在三模型上達到最高66%成功率。此攻擊可在自動駕駛與機器人視覺任務中導致連鎖錯誤，凸顯AI安全防護的急迫性。