幻覺偵測

深度分析

SeSE：以結構熵量化大型語言模型幻覺不確定性的框架

大型語言模型易產生幻覺，需透過不確定性量化避免。SeSE以結構資訊建構導向語義圖，計算最佳編碼樹的結構熵，數值越高表示不確定性越大。實驗證明其在29種模型上超越現有基準。此外，SeSE以零資源方式運作，支援開源與閉源模型，並透過隨機遊走在回應-斷言雙向圖上，提供長文生成的細粒度不確定性估計。