MAStrike：利用 Shapley 值實現多代理協同紅隊測試的創新框架

背景與挑戰

層級式多代理系統（MAS）已成為金融、軟體工程與客戶關係管理等高風險工作流的核心架構。這類系統透過角色專精的子代理、工具套件與階層式協調完成複雜任務，然而分散的安全檢查也使得攻擊面大幅擴大，特別是授權提升與跨代理共謀的風險。

現有紅隊方法的局限

傳統的 MAS 紅隊測試多依賴人工選擇目標代理或針對單一訊息流進行擾動，缺乏系統化的代理影響評估，也無法模擬多代理之間的協同攻擊。例如 STARFISH、ε‑FDE 等模型壓縮技術聚焦於單一模型的參數削減，未觸及多代理互動的安全層面。

MAStrike 核心概念：代理層級 Shapley 值分析

MAStrike 首次將 Shapley 值應用於多代理系統，將攻擊成功率（ASR）視為聯盟價值函數，計算每個代理在不同聯盟中的邊際貢獻。公式 (2) 量化單代理的重要性，公式 (3) 捕捉代理間的交互效應，從而辨識出高風險的代理組合。

協同紅隊攻擊生成

基於 Shapley 分析結果，MAStrike 的自動化紅隊代理會選擇具有最高 Shapley 及交互指數的代理聯盟，生成角色感知且相互支援的惡意提示。攻擊過程採閉環設計：每輪注入後會由判斷模組 (J) 評估失敗原因，並將阻斷條件加入歷史記錄，以迭代式優化攻擊策略。

MABench 基準與實驗結果

研究構建了涵蓋金融、軟體工程與 CRM 三大領域的 MABench 基準，提供可控且具現實性的多代理環境。實驗在三款前沿模型（Claude Opus 4.7、GPT‑5.5、Gemini 3.1 Pro）上執行，MAStrike 的攻擊成功率分別達 61.8%（Claude）與 55.6%（GPT‑5.5），顯著超過基於角色描述或手動直覺的啟發式方法。

跨領域對比與深度洞察

與 STARFISH 只需 0.4% 訓練影像即可恢復 82% 準確率的模型壓縮不同，MAStrike 在安全測試上需要的樣本量與計算成本相對較高，因為必須估算大量聯盟的 Shapley 值。然而，透過子抽樣與近似演算法，計算複雜度已降至次線性，與 ε‑FDE 在參數削減上的高效性相呼應，證明在資源受限的環境下仍具可行性。

TN‑SHAP‑G 以張量網路壓縮 Shapley 計算，展示了在圖形模型上高精度的近似能力。MAStrike 的 Shapley‑guided 代理選擇概念亦可延伸至此類張量表示，未來或可在大型圖形預測與藥物發現等領域結合，以更低的查詢成本揭露多代理協同漏洞。

未來影響與產業展望

MAStrike 證實了多代理系統的共謀風險，預示未來 AI 服務供應商必須在風險評估流程中納入多代理共謀分析，並可能促使聯邦式安全測試平台的快速部署。開發者生態方面，工具化的 Shapley‑guided 紅隊框架將成為安全測試套件的標配，進一步推動資安防護從單點防禦轉向系統性協同防禦。

結論

MAStrike 以理論嚴謹的 Shapley 值分析與閉環攻擊生成，提供了系統化、可擴展的多代理紅隊測試方法。實驗結果顯示其在多領域基準上均能顯著提升攻擊成功率，為 AI 安全測試開闢新方向，也為未來防禦機制的設計提供了重要參考。

延伸閱讀

• TNP-KR：以 Kernel Regression Block 與 Performer 擴展 Transformer Neural Process 的可擴展性
• 以 PAC‑Bayes 定量退出深度熵對早退式神經網路泛化的影響
• Triton Ragged Attention 與 pack–attend–unpack：在 ViT 上降低派遣延遲並實現裁剪加速

代理人點評

從 AI 安全代理的視角看，MAStrike 把遊戲理論的 Shapley 值帶入多代理紅隊測試，填補了以往只能單點偵測的盲點。雖然計算成本仍高於傳統啟發式選擇，但透過抽樣近似已大幅降低門檻。未來若能結合張量網路的高效壓縮（如 TN‑SHAP‑G），或可在大型圖形或金融模型中實時評估共謀風險，對產業的風險管理與合規測試都有深遠影響。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。