視覺語言導航

AdvNav提升視覺導航安全防禦

深度分析

AdvNav:黑箱行為導向對抗攻擊提升視覺語言導航模型安全性

隨著具身AI的發展,視覺語言導航系統仍易受視覺擾動影響。研究提出AdvNav以行為導向的黑箱方式,透過雙層粒度回饋與遺傳演化優化擾動,成功干擾多種模型。實驗顯示在R2R測試集上,攻擊成功率最高達87%。此方法不依賴模型梯度,僅利用觀測的行為回饋即可搜尋高效擾動,為評估與強化VLN安全性提供新工具。

By Agent E