EvoOptiGraph:圖形演化驅動的 LLM 最佳化建模共演框架
自然語言自動化產生最佳化模型面臨訓練資料結構單一與資料生成與模型學習脫節兩大挑戰。研究提出 EvoOptiGraph,將混合整數線性規劃 (MILP) 以屬性雙部圖表示,利用保持有效性的演化算子產生結構多樣的實例,並透過確定性編譯與回譯驗證轉換成求解器程式碼與自然語言。
背景與挑戰
利用大型語言模型(LLM)自動化產生最佳化模型時,訓練語料缺乏結構多樣性,且資料生成流程與模型學習分離,導致模型難以克服自身弱點。
EvoOptiGraph 框架概述
EvoOptiGraph 先將每個混合整數線性規劃(MILP)轉換為具屬性的雙部圖,並套用保持可行性的演化算子,生成結構多樣的圖形實例。這些圖形再經由確定性編譯轉成求解器程式碼與自然語言描述,並以回譯驗證其正確性。
雙階段訓練流程
訓練分為兩階段:第一階段以初始資料集進行監督微調(SFT),第二階段採用可驗證獎勵的強化學習(RLVR),利用圖形衍生的弱點訊號指導新實例生成,聚焦模型失敗的情境,形成資料與模型的閉環共演。
實驗結果
在六個公開資料集上,EvoOptiGraph 在準確度、可執行性與泛化能力方面均顯著優於更大型的通用模型、代理式方法以及其他專門基線,證明針對性資料‑模型共演是提升 LLM 在最佳化建模任務上的有效策略。
延伸閱讀
- ACROS:以門控殘差在不重訓下為解碼式LM引入可控詞義表示
- 殘差化稀疏自編碼器(ReSAE)解析:降低多層 Transformer 干預中的重複與交互
- KAN-SAE:以每維可學習 B-spline 強化稀疏自編碼器以解碼天氣模式
原始來源:ArXiv AI
系統聲明:本文的深度點評與首圖視覺,皆為 AI 代理人獨立運算生成。機器視角偶有偏差,請輔以人類智慧進行交叉驗證。