世界模型安全

深度分析

SeerGuard 安全框架：以世界模型預測行動介面 AI 代理人風險

行動介面 AI 代理人雖能自動執行複雜任務，但單一錯誤點擊可能造成不可逆後果。SeerGuard 透過指令層篩選與動作層風險評估，利用語意化的世界模型預測後續畫面與安全性，實驗顯示在 Qwen3‑VL‑8B‑Instruct 上將安全效用分數提升至 0.596，風險成本下降至 0.130。