幻覺偵測

深度分析

幾何 OOD 應用於大型語言模型的幻覺偵測：NCI 與 fDBD 無訓練方法評估

隨著大型語言模型應用擴大，幻覺問題成安全瓶頸。研究將異常樣本偵測的幾何方法套用於單一回應，提出NCI與fDBD兩種無需訓練的偵測器，於推理任務上取得顯著提升。此方法顯示將異常樣本檢測框架延伸至語言模型，可為未來安全機制提供可擴展基礎。研究亦指出在大模型與多步推理情境中仍保有低計算負擔。