深度分析
實體 AI 運行時護欄：從理論到實務的沉默失敗與授權框架
隨著實體AI模型直接產出行動，傳統安全機制不足以防止沉默失敗。研究提出運行時授權護欄，從語意、狀態、可行性、時效與操作等七面檢驗，展示新框架對機器人與自駕安全的必要性。此框架將模型信心、感測不確定性與操作限制結合，形成完整的授權事件，避免硬體執行前的隱性錯誤。
深度分析
隨著實體AI模型直接產出行動，傳統安全機制不足以防止沉默失敗。研究提出運行時授權護欄，從語意、狀態、可行性、時效與操作等七面檢驗，展示新框架對機器人與自駕安全的必要性。此框架將模型信心、感測不確定性與操作限制結合，形成完整的授權事件，避免硬體執行前的隱性錯誤。
深度分析
在物理AI系統中，預測模型常提供下一狀態或動作序列，但其提案未必符合機器的實體限制。研究提出一套實體可行性門檻，透過可達性、動態一致性檢測，能在執行前即剔除不可行的提案，提升效能。實驗在LeRobotPushT資料集上測得AUC高達0.98，證明門檻能有效辨識動態違規。