單證明互動驗證

速報

單證明互動驗證：無需辯論的 AI 安全新框架

隨著人工智慧模型功能日益強大，確保其輸出符合使用者意圖變得關鍵。傳統的辯論式驗證依賴兩個能力相當且其中一方誠實的模型，現實中難以保證。研究者提出單證明互動驗證概念，針對具備人類判斷或網路查詢等外部資訊的運算，設計雙重高效的單證明互動證明與論證。