沉默失敗

深度分析

實體 AI 運行時護欄：從理論到實務的沉默失敗與授權框架

隨著實體AI模型直接產出行動，傳統安全機制不足以防止沉默失敗。研究提出運行時授權護欄，從語意、狀態、可行性、時效與操作等七面檢驗，展示新框架對機器人與自駕安全的必要性。此框架將模型信心、感測不確定性與操作限制結合，形成完整的授權事件，避免硬體執行前的隱性錯誤。