Template Constrained Decoding

速報

Template Constrained Decoding (TeCoD)：提升 Text-to-SQL 準確度與效能的新框架

大型語言模型在 Text‑to‑SQL 上雖已顯著進步，但面對未見過的資料庫結構仍易產生錯誤。研究者推出 TeCoD，將歷史 NL‑SQL 配對轉為可重用模板，並以微調的自然語言推理模型快速匹配查詢，接著以文法限制的分割解碼確保 SQL 合法。實驗顯示，TeCoD 在正確率上較傳統方法提升最高 36%，執行延遲降低至 2.2 倍。