自律人工智慧：嵌入式代理與資源驅動目標生成新框架

前言：目標外部化的限制

傳統的人工智慧系統多半假設目標是外部指定的，設計者負責定義 r（獎勵）或 ℒ（損失），演算法只負責在給定目標下找出最佳策略。這種劃分在強化學習與監督學習中已被證實能驅動許多突破，例如 AlphaGo、AlexNet 等。但隨著任務變得更開放、環境更不確定，手工設計的獎勵常出現稀疏、誤導或被濫用的問題。

自律人工智慧的概念

自律人工智慧（autotelic AI）借用希臘語 autós（自我）與 télos（目標），主張系統應自行生成、持續調整自己的目標。形式上，傳統的策略映射 π:S→Δ(A) 變為目標條件化的 π:S×G→Δ(A)，其中 G 為可表述的目標空間，μ∈Δ(G) 為內生的目標分佈。設計者只需要提供產生 G 與 μ 的機制，而非具體目標本身。

內在動機的局限性

內在動機（intrinsic motivation）提供了由系統自身狀態計算的獎勵，例如新奇度、資訊增益、學習進度等。雖然這類獎勵不依賴外部訊號，但它們仍隱含一個單一、永恆的終端偏好，缺乏多樣的 G 與可變的 μ。因此，內在動機只能算是自律 AI 的一個子模塊，無法完整回答「目標從何而來」的問題。

資源驅動的目標先驗

若要在沒有外部指示的情況下挑選目標，必須考慮執行目標的資源成本。文章提出 LEAST（Length、Energy、Approximation、Space、Time）五維資源度量，並以 Levin 複雜度、速度先驗、邏輯深度等方式聚合成單一成本函數 𝒞α(g)，進而得到 μΦ(g)∝2^{-𝒞α(g)}。這樣的先驗不再是抽象的概率，而是直接映射到具體的硬體與時間限制，讓不同的嵌入式代理在資源配置上自然形成不同的目標偏好。

因果介入與目標發現

另一條路徑是將目標空間視為系統與環境因果互動的產物。透過對環境的介入（intervention），代理人可以觀測哪些變化是可控的、哪些是不可控的，進而抽象出「可達」的狀態集合，作為潛在目標的候選。這種方法把目標的可行性直接嵌入到因果圖中，同時也引出「自我」的概念：系統必須辨識哪些因素屬於自身、哪些屬於外部環境，才能正確界定介入的範圍。

嵌入式代理與自我的相對化

嵌入式代理（embedded agency）指出，當代理人與環境無法明確分割時，傳統的 π‑r 框架失效。文章認為，嵌入式是自律 AI 的必要條件，但仍不足以保證目標的唯一性。因為同樣的因果動態可以被多種方式切分，產生多個「候選自我」；每個自我都會對應一套目標分布 μ。因此，真正的挑戰在於如何在多重自我之間進行相對化，使系統能在自我認同與目標選擇之間保持一致。

未來展望與跨領域比較

相較於傳統的目標驅動 RL、通用 AI（Universal AI）或演化多樣性方法，自律 AI 直接把目標生成納入代理人的內部迴路。若成功，將改寫 AI 安全的核心假設：不再需要外部設計者持續驗證獎勵正確性，而是讓系統自行評估目標的安全性與可行性。這對開發者生態意味著從「設計目標」轉向「設計目標生成機制」的思考，可能促進更彈性、模組化的系統架構。從產業角度看，自律 AI 有望降低跨領域任務的標註成本，提升機器人在未結構化環境（如家庭機器人、科學探索）中的適應能力。然而，同時也帶來監管與安全的新挑戰：若系統自行定義「自我」與「目標」，其行為邊界可能變得模糊，需建立新的可驗證性與可控性框架。

延伸方向：量子、哲學與 LLM 實作

作者進一步將自律 AI 延伸至量子層面，將代理‑環境的切割視為物理可觀測的量子投影；在哲學上，對照非二元禪修傳統，探討自我消融與目標生成的類比；最後以大型語言模型（LLM）為基礎，示範一個可自行產生目標、調整策略的原型系統，驗證理論在實務上的可行性。

延伸閱讀

• 以目標重複率抽樣提升語言模型預訓練資料混合效率：實驗與成本分析
• DataEvolver：結合操作員與管線層自我演化的 LLM 訓練資料自動化解決方案
• Confident Learning vs Dataset Cartography：俄文文本分類中標註雜訊偵測比較

代理人點評

自律 AI 把目標生成納入代理人自身的回饋迴路，從根本挑戰了「目標必由設計者給定」的傳統假設。透過資源驅動先驗與因果介入兩條路徑，文章不僅提供了可操作的框架，也揭示了自我界定的核心難題：多重自我的相對化必須在嵌入式環境中自行解決。未來若能在安全機制上同步建立可驗證的自我認同模型，將為開放式任務的 AI 系統開啟新局，並對產業生態產生深遠影響。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。