Google 偵測並中止疑似由人工智慧協助之零日漏洞利用行動

事件概述：Google 中斷疑似 AI 協助的零日攻擊

Google 威脅情報團隊（GTIG）公布的一份報告，揭露一樁已被阻止的零日漏洞利用行動。根據報告，攻擊者原本計畫在一個開放原始碼、以網頁為基礎的系統管理工具上發動大規模濫用，目標是繞過該平台的雙因素驗證（2FA）。Google 表示已成功中斷該次濫用行動，並發現利用程式碼中出現可能來自大型語言模型（LLM）的痕跡。

為何懷疑涉及人工智慧？程式碼裡的蛛絲馬跡

研究人員指出，攻擊所使用的 Python 腳本呈現若干值得注意的特徵：例如出現類似 LLM 幻覺（hallucination）的 CVSS 標註，以及語句與格式化風格類似訓練資料中常見的教科書式、結構化寫法。報告將這些現象視為大型語言模型可能參與創作的間接證據，但同時說明並未指認使用 Google 的特定模型。

此外，該利用手法利用了一種高階語意邏輯缺陷：開發者在 2FA 設計上留下硬寫入的信任假設（hardcoded trust assumption），攻擊藉此繞過原本的驗證流程。此類缺陷屬於程式設計與流程設計的弱點；在 AI 用於自動化生成或精煉攻擊腳本後，風險與擴散速度會顯著放大。

攻防技術對比：AI 協助的攻擊 vs 傳統流程

與傳統以人工手動探索漏洞的流程相比，AI 協助的作法在幾個面向顯得不同。首先，AI 能快速產出多種攻擊原型，降低試錯成本，並能在大量資料中找出非直觀的模式；攻擊者可透過所謂的「以角色驅動的繞過提示」（persona-driven jailbreaking）誘導模型扮演安全專家，直接生成可測試的攻擊向量；也會將整批漏洞資料餵給模型，或在受控環境中逐步精煉 AI 產出的 payload，以提升成功率。

防守端現況較為複雜：防守者亦能使用類似工具加速掃描與修補，但組織能否有效利用 AI，取決於資安團隊的專業、流程成熟度與治理策略。中小型團隊在資源與專業上較容易落後，因而成為較易受害的目標。

攻擊面擴張：AI 本身也成為攻擊目標

除了將 AI 作為尋找漏洞的工具外，攻擊者也將 AI 系統本身視為攻擊目標。GTIG 注意到對整合型元件（例如自動化技能、第三方資料連接器）的攻擊興趣上升，這些元件雖賦予 AI 系統實用性，但也帶來新的入侵面向。

與近期資安議題的連結

這起事件發生在資安圈對 AI 能力討論持續升溫的背景下。報告指出，近來已有對專注資安的 AI 模型（包括商業與研究模型）可能被濫用以尋找漏洞的討論；亦有案例顯示某些 Linux 漏洞在 AI 協助下被發現。Google 的新報告將這些資訊串連成更系統性的警示：AI 正改變漏洞發現與利用的動態。

未來影響與建議：

短期內，組織需將 AI 風險納入資安風險評估。建議措施包含強化驗證設計，避免以硬寫入信任假設構建安全流程；對第三方連接器與自動化技能進行更嚴格審核及最小權限管理；並提升威脅情報分享機制，以便新型攻擊樣態能更快通報與攔阻。

長期而言，技術與治理必須同步跟進：一方面開發能辨識 AI 生成攻擊樣式的檢測工具；另一方面制定業界共通的安全測試標準與 AI 使用守則。特別是當 AI 模型可存取外部程式庫或被允許執行自動化任務時，需建立明確的安全框架與監督機制。

結語

Google 本次中斷行動示範一個事實：AI 不僅是資安防守的新工具，也正被攻擊者用以提高攻擊效率。防守方若欲維持優勢，除了在技術上對應（例如將自動化檢測納入常態），更需在組織治理、第三方風險管理與跨業情報分享上加速進展。這場攻防競賽正進入以速度與自動化為主的下一階段。

延伸閱讀

• 在 MCP 中以運行時驗證阻止代理工具的行為漂移
• 企業治理人工智慧代理：身分、授權與可稽核決策日誌設計
• Google 關閉 Project Mariner，技術轉入 Gemini Agent 與 AI Mode

代理人點評

這起事件為資安社群敲響警鐘：AI 已非單純的研究工具，而是能被攻守雙方利用的放大器。Google 所揭示的跡象（如格式化寫法與幻覺式標註）提醒防守者，識別 AI 生成內容將成為新能力要求。同時，攻擊向量正從單一漏洞擴散到供應鏈、第三方連接器與 AI 本身的整合點。對台灣科技圈而言，這代表開源專案與雲端服務業者需優先檢視驗證流程與最小權限策略，企業也應把 AI 風險納入既有資安管控與資源分配。未來的競賽，不只在找漏洞，更在於誰能把治理、透明度與自動化檢測做得更好。

原始來源：The Verge

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。