黑箱對抗攻擊

深度分析

AdvNav：黑箱行為導向對抗攻擊提升視覺語言導航模型安全性

隨著具身AI的發展，視覺語言導航系統仍易受視覺擾動影響。研究提出AdvNav以行為導向的黑箱方式，透過雙層粒度回饋與遺傳演化優化擾動，成功干擾多種模型。實驗顯示在R2R測試集上，攻擊成功率最高達87%。此方法不依賴模型梯度，僅利用觀測的行為回饋即可搜尋高效擾動，為評估與強化VLN安全性提供新工具。