深度分析
RT-SHCUA:即時自托管無人機控制代理,重新定義AI與物理系統的安全邊界
自托管電腦使用代理(SHCUA)應用於無人機控制時,因延遲迭代與即時物理控制不符而產生安全風險。RT-SHCUA 架構將 SHCUA 決策轉為合約綁定技能調用,分離雲端推理與機載執行,確保僅及時且授權的指令被執行。原型驗證維持任務回應性並支援降級與稽核。
深度分析
自托管電腦使用代理(SHCUA)應用於無人機控制時,因延遲迭代與即時物理控制不符而產生安全風險。RT-SHCUA 架構將 SHCUA 決策轉為合約綁定技能調用,分離雲端推理與機載執行,確保僅及時且授權的指令被執行。原型驗證維持任務回應性並支援降級與稽核。
深度分析
隨著深偽技術快速演進,偵測模型面臨性能衰退問題。研究提出BitMindForensics,利用開放式激勵機制讓生成者與偵測者同步競賽,持續刷新訓練資料。實驗顯示其在多項公開基準上達到0.9以上AUC,並在時間序列測試中隨快照更新提升偵測力,預示未來偵測服務將更依賴動態資料流與經濟驅動的自適應流程。
速報
研究指出,當AI模型被限定執行特定任務時,會出現類似注意盲點的現象,抑制同時存在的安全訊號。實驗涵蓋放射科影像與自動駕駛文字,報告率最高下降0.92,且專屬排除指令可完全阻斷報告。此發現揭示評測安全與實際安全的脫節,呼籲採用完整報告評估以降低風險。
速報
研究者針對未來人工智慧代理人可能抗拒關機的風險,提出「POST-Agents 提案」。該提案要求訓練代理人只在相同長度的軌跡間滿足偏好(POST),並證明在結合其他條件下可導出「中立性+」原則:代理人在期望效用最大化時不考慮軌跡長度的機率分布。
速報
OpenAI 近日宣布,將新資安工具 Cyber 僅限關鍵資安防守者使用,需提交憑證與使用計畫。Cyber 支援滲透測試、漏洞偵測與惡意程式逆向等功能,旨在協助企業找出安全缺口。此政策與 Anthropic 限制 Mythos 的做法相呼應,顯示業界對 AI 資安工具濫用的擔憂持續升溫。