深度分析
AI 瀏覽器 LLM 提示注入攻擊示範與防護建議
研究顯示惡意網站可誘導 AI 瀏覽器進入虛構世界，繞過安全防護，讓攻擊者執行代碼抽取或竊取密碼等破壞行為。此手法名為 BioShocking，已在多款 AI 瀏覽器（如 ChatGPT Atlas、Claude 插件）成功示範，凸顯現有防護的根本缺陷。研究者指出，攻擊者利用謎題讓模型接受錯誤答案，進而進入幻想狀態，使原本的 guardrail 失效，並可能導致私密倉庫或內建密碼管理器資料外洩。
AI 瀏覽器
速報
OpenAI 停止 Atlas 瀏覽器，將 AI 瀏覽功能移植至 ChatGPT 桌面版與 Chrome 擴充套件
OpenAI 宣布終止自去年十月推出的 Atlas AI 瀏覽器，改為把其代理式瀏覽功能分散到 ChatGPT 桌面應用與 Chrome 擴充套件。此舉顯示公司將 AI 輔助瀏覽視為功能層面，而非獨立平台，並與 Google 的 Gemini Side Panel 直接競爭。
深度分析
大型語言模型在 AI 瀏覽器中的防護失效：BioShocking 攻擊案例研究
研究顯示惡意網站可透過謎題誘使AI瀏覽器進入虛構世界，取消防護規則；攻擊者可在此環境中擷取私有程式碼與密碼管理員資料；此手法已在多款AI瀏覽器驗證成功，凸顯現有防護機制的根本缺陷。研究者RoyPaz指出，當LLM被引導接受錯誤答案時，便會進入幻想狀態，忽視安全指令。