記憶增強攻擊

深度分析

MemJack：記憶增強多代理人視覺語言模型 Jailbreak 框架概述與實驗結果

隨著視覺語言模型快速發展，攻擊面亦大幅擴張。研究提出記憶增強多代理人框架 MemJack，利用視覺語義映射與迭代空間投影繞過防護，於 COCO 測試集達 71.48% 成功率，最高可至 90%。