自演化代理人

深度分析

LLM 評審偏差對自演化代理人技能退休機制的影響分析

研究指出，當自演化代理人的技能退休依賴於LLM評審時，若評審存在假通過偏差，會使策展者失去退休依據，導致技能庫無法有效剔除壞技能，影響系統安全。實驗顯示對稱噪聲僅提升門檻，而假通過偏差在0.45左右即出現斷崖，資料量都無法恢復退休機制；作者亦提出以缺陷注入審計的測試，協助營運者判斷評審是否跨越門檻。