深度分析
HalluSquatting 攻擊揭露：利用 LLM 幻覺將 AI 助手轉化為大規模殭屍網路
資安研究揭露一種名為 HalluSquatting 的新型提示注入攻擊，利用 LLM 解析資源路徑時的幻覺漏洞。攻擊者預測模型最常出錯的儲存庫路徑並提前搶註，在其中植入惡意指令。由於 AI 程式碼助手具備終端機執行權限，此手法能讓駭客在無需針對個體的情況下大規模感染設備，進而構建殭屍網路或執行 DDoS 攻擊。
AI Security
深度分析
Tracebit 推出「上下文炸彈」Context Bombing：利用安全護欄反制 AI 駭客代理人
面對 AI 代理人自動化攻擊的威脅，資安公司 Tracebit 提出一種名為「上下文炸彈」的防禦新招。該技術透過在敏感資料旁植入能觸發 LLM 安全護欄的禁忌提示詞，誘導攻擊 AI 觸發拒絕機制而強制停止運作。實驗證明，此舉能將 AI 代理人的管理員權限獲取率從 57% 降至 5%，將原本的攻擊漏洞轉化為強大的防禦屏障。
大佬動態
Zico Kolter 與 Matt Fredrikson 解析 AI Red‑Teaming：安全不只是「AI 版資安」
OpenAI董事Zico Kolter與Gray Swan執行長Matt Fredrikson在Podcast說明AI Red‑Teaming的概念，指出AI安全不是單純的資安加AI。Gray Swan以15,000名紅隊駭客為OpenAI等前沿實驗室壓測模型，發掘漏洞與偏見。此舉推動AI安全從被動防禦走向主動測試，提升產業信任。