熵導向攻擊

深度分析

ADAM：自適應查詢提升大型語言模型代理記憶的隱私攻擊成功率

大型語言模型代理因加入記憶模組提升效能，卻可能被查詢式攻擊竊取敏感資料。研究者提出 ADAM，透過記憶分布估計與熵導向查詢，將攻擊成功率提升至最高 100%。結果顯示現有隱私防護不足，需加速研發更安全的方案。