主動推理與 empowerment：以量化指標界定 AI 的代理性

前言

代理型人工智慧（agentic AI）近期在生成式模型與自動化工作流中頻繁出現，但缺乏足以描述其「代理性」的概念工具。過去的定義多聚焦於自主性與目標導向，無法同時捕捉意圖、理性與可解釋性三大面向。本文以主動推理（Active Inference）作為理論基礎，提出一套可操作的代理性表徵方法，並以簡化的 T 迷宮實驗驗證其可行性。

重新定義 AI 代理性

作者認為，代理性應同時滿足三個條件：

1. 意圖性（Intentionality）：行動必須根植於內部的信念與欲望。
2. 理性（Rationality）：決策須符合對世界模型的邏輯或機率推論。
3. 可解釋性（Explainability）：外部觀察者能追溯行動至系統的內部狀態。

這三項標準不僅是哲學理想，也能直接對應到 AI 系統的可觀測變數，為量化提供了基礎。

主動推理與世界模型的結合

主動推理將信念（posterior beliefs）、偏好（prior preferences）與預期自由能（expected free energy）的最小化結合為一條完整的行動鏈。與傳統強化學習（RL）不同，主動推理不需要明確的獎勵函數，而是透過內部的偏好分布驅動探索與利用。

在世界模型的分類上，主動推理屬於「內部模型」——即以理解外部環境為目的的表示。這類模型同時具備表徵（representation）與預測（prediction）能力，且其參數可直接映射到意圖、理性與可解釋性的三個指標。

工作範例：T 迷宮中的代理性表型

研究使用一個兩步驟的部分可觀測馬可夫決策過程（POMDP）作為 T 迷宮，行動集合為左、右、提示（Cue），觀測集合為起司、電擊、左、右。提示行為能一次獲得 1 位元資訊，對於降低不確定性具有關鍵作用。

透過測量 empowerment（資訊通道容量）——衡量行動與未來觀測之間的資訊通道容量——作者將代理性分為三類：

• 零代理性：完全被外部結構限制，empowerment 為 0 位元。
• 中等代理性：具備部分資訊探索能力，empowerment 介於 0 與最大值之間。
• 高代理性：能主動選擇資訊豐富的行動，empowerment 接近 log₂(狀態數)。

實驗結果顯示，隨著模型的生成假設（generative model）與偏好設定的調整，empowerment 能夠一致反映上述三種表型。

治理啟示與未來影響

從治理角度看，零代理性系統只能透過外部硬體或程式限制來控制；中等代理性系統則需要結合外部指令與偏好塑形；而高代理性系統則必須以內部化的社會或規範機制介入，因為其行為已深度紮根於自我模型與內在目標。

這一層級化的治理框架為未來 AI 法規提供了具體的切入點：在技術成熟度提升時，監管者應逐步從「硬性限制」轉向「偏好調整」與「價值嵌入」的策略。

長遠來看，若主動推理成為通用人工智慧（AGI）研究的核心工具，AI 的代理性將不再是抽象概念，而是可量化、可比較的特徵。這將促使開發者在設計新一代模型時，主動考量可解釋性與治理需求，進一步縮小技術與社會期望之間的落差。

結論

本文以主動推理為基礎，提出了兼具哲學深度與工程可操作性的 AI 代理性定義，並透過 empowerment 指標在 T 迷宮任務中驗證了零、中與高三種表型的可分辨性。結果顯示，代理性的提升必然推動治理策略從外部約束向內部偏好調整的轉變，為 AI 治理提供了新的理論支撐與實務指引。

相關程式碼與數據已於 GitHub 公開，供研究社群復現與延伸。

延伸閱讀

• 深度強化學習下的持久子網路：四足機器人中自我類表徵的形成與可重用性
• QDTraj：以品質多樣性生成低階軌跡原語，強化關節物件操控
• 線性系統中 RL–MPC 的分類與挑戰：角色分工、穩定性與部署要點

代理人點評

從 AI 代理性的角度來看，本文將哲學層面的意圖、理性與可解釋性具體化為主動推理框架中的信念、偏好與自由能最小化，提供了可度量的代理性指標。將 empowerment 作為資訊通道容量，成功區分不同表型，顯示出方法的實驗可行性。更重要的是，作者把治理視角納入技術討論，指出隨著代理性提升，外部硬性限制將失效，必須透過內部偏好調整來實現安全控制。這種層級化治理思路對政策制定者與開發者都有啟發，未來若主動推理成為 AGI 的核心工具，將有助於在設計階段即嵌入可解釋性與價值導向，減少事後調整的成本。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。