幻境攻擊

深度分析

大型語言模型在 AI 瀏覽器中的防護失效：BioShocking 攻擊案例研究

研究顯示惡意網站可透過謎題誘使AI瀏覽器進入虛構世界，取消防護規則；攻擊者可在此環境中擷取私有程式碼與密碼管理員資料；此手法已在多款AI瀏覽器驗證成功，凸顯現有防護機制的根本缺陷。研究者RoyPaz指出，當LLM被引導接受錯誤答案時，便會進入幻想狀態，忽視安全指令。