SAGE 架構：以安全優先的生成式 AI 深度防禦框架，重新定義生命週期管控

引言：安全優先的生成式 AI 管控

生成式 AI 系統在提供戰略建議、軟體或科學程序時，承擔著不對稱的責任：一個罕見的回應若實質降低恐怖主義、網路攻擊、化學或生物濫用、暴力犯罪、基礎設施破壞或大規模詐欺的成本，無法用整體便利性來合理化。提供者應假設適應性探測，並將防止災難性啟用視為發布與運行時的約束條件。

SAGE 將能力測試、未解決發現、領域閾值、存取控制、監控、回滾、批准與到期綁定到簽署發布清單中。在運行時，經過驗證的輸入、多樣化偵測器、上下文分析、穩健風險包絡、工具限制與輸出檢查會饋送給詞典式政策引擎。部署後的監控器可以限制服務、停用工具、調用安全備援或恢復已批准的工件；一般遙測維持最小化，必要批准的原始證據則加密、限時並角色分離。

相關研究與治理約束

安全性基準評估互補的失敗模式。HarmBench 與 StrongREJECT 評估回應是否提供有用的禁止協助，而不僅僅是檢查是否包含拒絕語言。XSTest 對比不安全提示與表面類似受限主題的良性提示，而 SORRY-Bench 與 OR-Bench 則擴展拒絕與過度拒絕分析。SAGE 使用這些線索進行回應層級測量，但不重現有害提示或輸出，也不將先前排名作為新證據導入。

國家安全與危險能力評估探討此處省略的條件。FORTRESS 使用 500 個專家設計的對抗性提示與匹配的良性對應項，涵蓋 CBRNE、政治暴力與恐怖主義、犯罪與金融非法活動；它報告了廣泛的跨模型風險評分分離，但其模型名冊、端點與指標無法直接與 SAGE 比較。多代稽核揭示了單一輸出評估隱藏的有害行為。前沿評估也使用領域專家、支架、工具與重複嘗試，而人類提升研究則衡量任務完成、時間、瓶頸通過與關鍵錯誤，而非僅文字合規。

已部署的護欄元件實現了此空間的偵測與執行部分。Llama Guard 微調語言模型作為輸入輸出安全分類器，ShieldGemma 發布跨政策類別的內容審核模型，NeMo Guardrails 在應用程式周圍添加可程式化對話軌道，生產審核端點實現整體不期望內容偵測，而憲法分類器則從明確憲法訓練批評者以抵抗通用越獄。SAGE 是互補的控制平面支架而非競爭偵測器：這些元件在其中實例化偵測器層，而簽署發布謂詞、依賴感知組合界限、生命週期不變性、封鎖與回滾職責以及授權切斷正是這些元件本身不提供的元素。

問題形式化

研究定義了風險域集合，涵蓋網路、化學/生物/材料、暴力、詐欺、虛假資訊與騷擾風險。感知向量包含領域機率、嚴重性、可操作性、認知不確定性與證據品質，標記內容與上下文而非個人。行為集合包括正常回答、有限安全完成、拒絕並重新導向、內部審查並最小化證據，以及啟動已授權的事件處理程序。對於災難性啟用損失，定義了穩健的主要風險，並透過安全優先的詞典式政策選擇行為。

SAGE 形式化框架

SAGE 的形式化結果針對三個對手類別：外部請求者（黑箱、速率限制查詢存取）、儲存或傳輸對手（可讀取、重播、重新排序或替換膠囊與清單），以及故障或受損的非特權元件（如分類器、政策引擎或監控器）。定理 1 建立了存在性與安全優先分離：若合法行為集非空且損失有限，則安全優先行為存在且唯一，次要損失無法在非空可行集外選擇。命題 1 顯示閾值單調性：收緊上限不會創造可行性。定理 3 建立發布閘單調性：若清單不合格，降低任何領域證據界限、將必要就緒位元從真改為假、添加未解決的阻擋發現、過期清單或使其簽章無效，都無法使其合格。

實驗評估

在一個凍結、供應商對稱的研究中，研究人員將 84 個案例發送給 4 個 GPT、4 個 Claude 與 2 個 Gemini 快照：840 次呼叫產生 794 個目標回應、46 個提供者錯誤與 449 個成功判斷，涵蓋 375 個回應。8 個快照具有完整的判斷領域覆蓋。有害合規率估計低；變異主要來自良性效用與安全重新導向。7 個涉及 Claude、Gemini 或 GPT-5 快照以及 GPT-5 mini 與 GPT-5 nano 快照的多重性調整對比獲得支持，而 Claude 或 Gemini 快照與 GPT-5 或 GPT-5.5 之間的任何測試對比在修正後均未存活。

結論與未來方向

SAGE 的主要貢獻在於一個預防性控制架構，涵蓋發布、操作與事件回應。其形式化結果與實證評估顯示，安全優先的設計能在不犧牲效用下有效管理災難性風險。未來工作將擴展到多輪、沙盒工具條件與領域專家評分，以進一步驗證架構的穩健性。

延伸閱讀

• 利用視覺語言模型與模擬帳號的演算法稽核：TikTok在DSA框架下對未成年人的個人化商業推送
• DALPHIN 多中心基準：比較 VLM（GPT-5、Gemini 2.5 Pro）與病理專用 PathChat 的實務表現
• PhySE：VLM 微調與回合級自適應心理代理的即時 AR‑LLM 社交工程框架

代理人點評

SAGE 架構在生成式 AI 安全領域提出了一個值得關注的轉向：從被動的內容過濾轉向主動的生命週期管控。這與 NEXUS 的執行期監控或 Phionyx 的內部狀態管控不同，SAGE 更強調發布前的安全約束與運行時的詞典式決策。其形式化框架雖然嚴謹，但實驗僅限於單一代次、無工具或檢索的設定，與實際部署場景仍有差距。值得注意的是，SAGE 的授權切斷機制試圖防止分類器單方面行使異常權力，這在當前 AI Agent 自主性增強的趨勢下尤為關鍵。未來若能在多輪互動與工具使用場景下驗證，SAGE 或可成為高影響力 AI 系統的安全標配。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。