LLM‑PySR：結合大型語言模型與符號回歸的方程式探索新框架
科學方程式發掘需要結合廣泛的領域先驗與嚴謹的數值驗證。傳統符號回歸提供數值基礎，但搜尋空間龐大；而多數語言模型系統直接讓模型產出或挑選公式。研究團隊測試了不同的角色分工，將大型語言模型設定為方程式作者、候選決策者或搜尋控制器，並與端到端語言模型及純數值基線比較。
科學方程式的發掘必須同時結合廣泛的領域先驗與嚴格的數值驗證。符號回歸提供了數值基礎，但面臨巨大的組合搜尋空間；相對地，許多大型語言模型系統直接要求模型產出或挑選公式。
研究團隊比較了不同的角色分工：語言模型可以作為方程式作者、候選決策者或搜尋控制器，並與端到端語言模型以及純數值基線做比較。本文提出的控制器設定以 LLM‑PySR 為例，語言模型負責指定變數、運算子、轉換與搜尋深度，符號回歸則負責枚舉與擬合表達式，最後以決定性指標決定哪些結果保留。
在 74 個 AI‑Feynman 方程式與七項複雜公式恢復任務的測試中，搜尋控制展現出最好的準確度、複雜度、穩定性與成本平衡。於獨立的電池資料集測試時，LLM‑PySR 識別出早期電壓曲線位移與循環壽命之間的緊湊分段線性關係。
研究結果顯示，讓大型語言模型形塑假說探索的方向，比起直接決定哪些方程式最終保留，更能提升整體效能與效率。
延伸閱讀
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
