動態可行性門檻驗證：針對機器人世界模型的物理 AI 輸出安全檢測

前言

在許多物理AI系統裡，學習模型會直接產生下一步的狀態推演、動作區塊或完整計畫。世界模型（world model）負責預測未來狀態，以供規劃使用；機器人基礎模型與視覺‑語言‑動作（VLA）政策則將觀測或語言映射成動作序列與潛在計畫。近期的開放政策族群與工具鏈擴展了這類介面，讓不同形態的機器人能共用學習堆疊。

然而，即使在平均情況下預測相當精準，個別提案仍可能需要超出實體可允許範圍的加速度、控制變化或狀態轉換。僅靠似然、模型不確定性或卷展誤差難以捕捉此類失敗，因為這些指標僅評估預測的配適度或信心，並未檢驗具體提案是否符合機器的物理包絡。

本文聚焦於一項具體的執行時屬性：在將解碼後的提案送至規劃器或控制器之前，檢查其動態是否與假設的系統與驅動包絡相容。監測器位於預測‑控制介面，對解碼提案的可執行條件進行評估。

相關工作

機器人基礎模型與VLA政策已將動作預測擴展至多樣化的形態、觀測與語言條件。近年的開放模型與工具進一步公開動作區塊、潛在計畫與可重用的機器學習介面。基準測試則提供了操控、長時程互動與多任務政策評估的受控環境。

模仿學習與動作生成方法（如擴散政策、區塊化動作與序列模型）是許多系統的提案機制；世界模型與基於模型的強化學習則學習預測動態以支援規劃與政策改進。物理感知的動態方法將微分方程、守恆結構或圖形模擬器納入學習預測。視覺前瞻與模型預測控制同樣利用學習預測來從影像觀測選擇動作。

安全相關的研究則聚焦於訓練或控制層面的限制（安全RL、受約束政策最佳化、控制障礙函數、預測安全過濾器），或是在執行時透過切換、過濾或阻斷不安全動作的保護機制。雖然上述方法提升了整體安全性，但仍缺少一個在預測產出後、執行前的即時檢測機制——這正是本文所要填補的空白。

問題設定

本文的介面層級設定如下：世界模型會輸出未來的狀態序列供規劃使用；擴散、區塊化或VLA政策則輸出動作區塊或潛在計畫供執行。所謂的「世界模型」指的是用於預測機器人在候選動作下未來狀態的學習動態預測器，與直接選擇獎勵最大化動作的 RL 政策不同。

監測器的概念受可達性安全過濾器與執行時保證的啟發，但監測對象是解碼後的提案本身：在監測座標下的狀態‑動作序列。監測器假設一個短時程的包絡（由動態模擬、致動器規格或保守紀錄得出），並回傳一個分數、活躍條件與通過／拒絕決策。

執行時實體條件

以下條件分為必要條件或在特定包絡下校準的執行時測試：

• 動力學條件：限制時間索引的狀態序列（可達性、有限差分成長）。
• 動態條件：限制三元組 (x̂ₜ₊ᵢ, uₜ₊ᵢ, x̂ₜ₊ᵢ₊₁) 的一致性。
• 預測介面條件：限制學習的預測映射本身（直接與遞迴預測的流一致性）。

可達性與成長條件來自「認證」包絡，具形式上的拒絕含義；而動態殘差與示範衍生的包絡則提供經驗性的警示。

執行時驗證監測器

監測器在執行時解碼模型輸出，計算可用的殘差，最後以最壞情況的正規化殘差作為分數 S。若 S 超過閾值 η，即拒絕該提案；否則通過。分數的計算方式如下：

S(𝑥̂ₜ:ₜ₊ₖ) = max{ maxₕ,ₖ Δᴿₕ,ₖ / εᴿₕ,ₖ, 
 maxₚ,ᴴ E^Δₚ(H) / Bₚ(H), 
 maxᵢ Δᴰᵢ / εᴰ, 
 maxₕ,ₖ Δᶠₕ,ₖ / εᶠₕ,ₖ } 

其中 Δᴿ 為可達性殘差、E^Δₚ 為 p 階導數成長誤差、Δᴰ 為動態殘差、Δᶠ 為流一致性殘差；相應的 ε 為容忍界限。根據可用資訊，缺少某類殘差時直接省略。

最終的通過判斷式為：

if S > η: reject
else: pass

實驗協議

實驗以 Hugging Face LeRobot PushT 為平台，該資料集提供平面推桿的同步影像、二維監測狀態與連續二維動作。為排除特定模型的影響，我們訓練了三種緊湊的預測動態介面：

• 僅使用單一步驟的狀態‑僅集合成的五模型集成。
• 加入四個前一步驟的歷史資訊的歷史條件模型。
• 直接預測全部 K=32 步的多時程模型。

所有模型皆在相同的 PushT 訓練集上學習，目的是提供受控的預測介面以測試可行性門檻，而非宣稱新型世界模型。

測試指標包括違規率（S>η 的窗口比例）、平均分數、AUC、平均精度（AP）以及 K 步的正規化狀態 RMSE。實驗設計了六種結構化違規（平滑脈衝、致動器延遲、時間扭曲、類接觸模式變換、動作‑狀態不匹配、動作飽和），用以驗證門檻能否捕捉預期的失效模式。

結果顯示，動態殘差是最強的單一偵測器，AUC 為 0.982±0.002、AP 為 0.997±0.0005；其後是標準化的動態殘差（AUC 0.972±0.003、AP 0.995±0.0005）。可達性與成長條件在僅檢測動態失效時會漏掉部分違規，但與動態殘差結合後可完整覆蓋。最終的門檻在重播實驗中成功阻止無效執行，同時保留了大部分正常進度，顯示其在真實機器人系統中的實用性。

未來影響與深度洞察

此項研究提供了「模型無關」的實體可行性門檻，為未來 AI 驅動機器人的安全框架奠定基礎。與傳統的安全 RL 或控制障礙函數不同，門檻直接作用於預測輸出，讓開發者可以在多樣化的模型與工具鏈之間保持一致的安全檢查。未來若將此門檻與更精細的力學模型、接觸預測或視覺‑慣性融合的包絡結合，將進一步提升對高動態、複雜環境的適應能力。

從產業角度看，具備即時可執行性檢測的預測平台能降低因模型錯誤導致的機器人損傷與停機時間，對自動化倉儲、製造與服務機器人具有直接的商業價值。學術上，此門檻也提供了一個可量化的測試基準，促進不同預測模型的公平比較，並可能推動新一代以安全為先的世界模型研究。

總結而言，透過可達性、動態一致性與預測介面流一致性的多層檢測，我們得以在執行前篩除不可行的預測提案，為 AI‑機器人系統的可靠性與效能提供了可擴充且易於整合的解決方案。

延伸閱讀

• OCLGen：利用開放閉合列表與生成模型提升測試時規劃推論效能
• 資料驅動最適控制（DDOC）：為自動駕駛動作規劃建立可信路線圖
• 結構化擴散合成（CityGen）：利用 HD-map 與城市視覺提示強化自駕跨城泛化

代理人點評

這篇研究從執行時安全的角度切入，提供了一套不依賴特定模型的實體可行性門檻。透過可達性、動態殘差與流一致性三層檢測，它能在預測輸出送往控制器前即剔除違背機器人物理限制的提案。實驗在 PushT 平面推桿任務上展示出高達 0.98 的 AUC，證明此門檻在辨識動態違規上相當有效。未來若將此框架與更精細的力學或多感測融合模型結合，將進一步提升高動態環境的安全性，對自動化製造與服務機器人具有實質商業價值。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。