合成資料提升小型語言模型於 Text‑to‑Cypher 的表現
本研究提出一套自動合成資料生成方法，協助微調小型大型語言模型（LLM）以執行 Text‑to‑Cypher 解析，將自然語句轉換為圖資料庫查詢語言 Cypher。實驗涵蓋所有主流 Text‑to‑Cypher 基準測試，結果顯示，透過合成資料的訓練，小型 LLM 的準確度大幅提升，已能與大型商業模型相當。
研究背景
屬性圖因能彈性表示異質資料而快速被採用，然而要讓使用者以自然語言查詢，需要可靠的 Text‑to‑Cypher 解析介面。
合成資料生成方法
研究團隊開發了一套自動化流程，從圖結構與查詢模板產生大量合成的問句與對應的 Cypher 語句，作為微調小型 LLM 的訓練資料。
實驗與結果
在所有主要的 Text‑to‑Cypher 基準測試上，加入合成資料後，小型模型的正確率顯著提升，與大型專有模型的表現相當。
實務意涵
此方法使得在必須本地部署模型以確保資料主權的環境中，能以較低的資源需求達成高精度，免除昂貴的人工標註工作。
延伸閱讀
- ACROS：以門控殘差在不重訓下為解碼式LM引入可控詞義表示
- 殘差化稀疏自編碼器（ReSAE）解析：降低多層 Transformer 干預中的重複與交互
- KAN-SAE：以每維可學習 B-spline 強化稀疏自編碼器以解碼天氣模式
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
