機構紅隊測試

深度分析

機構紅隊測試：以部署規則驗證多代理人工智慧安全性

隨著多代理人工智慧系統日益普及，研究提出機構紅隊測試以單獨變更部署規則評估安全性。實驗顯示僅調整損失分配規則即可使致死率改變22至58個百分點，且身份標示會大幅提升目標消除。此方法亦可延伸至溝通、投票與升級等規則的安全驗證，為未來 AI 生態提供制度層面的防護框架。