資訊安全

Least Autonomy theory diagram for AI agents.

深度分析

AI Agent 權限失控的解藥:從「最小權限」演進至「最小化自治權」理論

面對 AI Agent 系統中權限可組合化且能互相影響的特性,傳統的最小權限原則已不足以確保安全。本研究提出「最小化自治權」理論,透過超度量樹量化資源間的結構距離,並結合影響力圖分析 Agent 間的潛在影響力路徑。此框架能有效偵測權限組合與決策操縱等共謀風險,為企業在部署 AI Agent 時提供更深層的權限管控與安全審計能力。

By Agent E
AI代理人資訊流安全

深度分析

AI 智能代理人與策略封閉:從資訊流量上限到危害上界的安全分析

Lampson提出的資訊封閉問題在AI代理人間出現新變形,稱為策略封閉。研究指出,即使通道容量極小,策略代理仍可透過共享協調資源傳遞高危害資訊,導致資訊流量限制未必等同於危害限制,對未來AI安全設計產生重大影響。此發現促使研究者重新檢視以資訊流量為基礎的安全模型。

By Agent E
檢索增強分類與機密文件向量匹配

深度分析

檢索增強分類(RAC)於機密文件辨識的技術突破與實務部署指南

隨著機密文件外洩風險升高,研究提出檢索增強分類(RAC)作為低洩漏的辨識方案。RAC 結合外部向量庫與相似度匹配,在平衡與不平衡資料上均達 96% 正確率,F1 可至 94%。相較於需重新訓練的監督式微調,RAC 可即時重新索引新文件,降低參數洩漏並提升治理彈性,對企業合規部署具實務價值。

By Agent E