對齊拓撲×圖神經網路：以結構化對齊檢測大型語言模型幻覺

對齊拓撲×圖神經網路檢測大型語言模型幻覺

大型語言模型被訓練以生成統計上合理的續寫，卻未必會檢驗生成命題是否被原始參考所支持，這使得模型在要求嚴謹事實性的情境可能產生幻覺或錯誤推論。

作者以對齊拓撲為出發，將參考資訊與模型輸出配對成二分圖，並訓練圖神經網路利用訊息傳遞來建模對齊結構。這種方法直接在結構層面學習而非僅靠檢索或自我一致性。

在多組幻覺與問答資料集上，該方法達到最新領先表現，並超越包括 GPT-4o 在內的比較基準。研究指出，對齊拓撲作為誘導偏差，可望提高事實性檢測的可靠度，尤其適用於臨床決策支援等高準確性需求的場景。

方法透過訊息傳遞在圖上匯聚對齊信號，能揭示節點間的支持與衝突路徑，這類拓樸資訊在傳統檢驗流程中較少直接學習。與單純靠檢索或多次抽樣自我一致性的做法相比，本文所訓練的 GNN 直接學習對齊關係，作為一種結構性的誘導偏差有其獨特優勢。

延伸閱讀

• Chimera 框架：在TCAM/SRAM限制下的注意力式神經符號映射與更新協定
• 以 AIE 平鋪與資料流優化實現低延遲推論：對比 hls4ml/FPGA 的設計方法
• NeuroAI 路線圖：連接體、神經形態硬體與事件驅動世界模型的三大關鍵

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。