以 LLM 代理人結合符號回歸與 EvoForest 重構材料參數擬合

導言：從經驗資料到可檢驗理論的自動化嘗試

科學發現長久以來依賴人類專家從實驗資料中歸納出通用方程，例如材料科學裡的 Hall–Petch 關係或化學動力學的 Arrhenius 形式。本文改寫的研究提出一種自主代理人框架，嘗試由大型語言模型（LLM）主導整個擬合流程：從觀察資料、提出方程式形式、產生並執行程式碼到量化驗證結果，盡量不依賴人工介入。

系統架構與工作流程

代理人採用一種類似 ReAct 的思維與行動迴圈，搭配明確工具註冊表，以便在不同階段呼叫專門能力：資料載入、方程生成、函數測試、參數擬合、結果驗證與輸出等。這個設計的關鍵在於讓模型能依據中間觀察調整策略，並將每一步決策紀錄下來，增加流程可檢視性。

案例驗證：從教科書到開放式發現

作者以數個材料科學關係做為評估：Hall–Petch（晶界強化）、Paris law（疲勞裂縫成長）、Kuhn 方程（共軛分子 HOMO–LUMO 能隙與鏈長關係）與一個受應變影響的拓展版本。這些案例按難度遞增，能系統地評估模型在既有知識、專門領域與無典範方程情況下的表現。

主要發現

對於教科書級、在文獻中普遍出現的關係（如 Hall–Petch、Paris law），由 GPT-4 與 GPT-5 驅動的代理人能正確回復主導方程，生成可運行的程式碼並完成端到端擬合，產出具物理解釋性的參數與合理預測。換言之，當目標關係充分被前訓練語料表徵時，LLM 代理人可作為有效的研究助理。

然而在專門性更高或缺乏典範方程的情境，系統暴露出幾種失敗模式：

• 合理幻覺（plausible hallucination）：模型提出的方程在數值配適上與真實模型極為接近，卻在物理形式上不正確或不完整，難以僅靠 R² 等擬合指標偵測。
• 擷取失敗後仍自信繼續（extraction failure with confident continuation）：當文獻擷取或外部工具回報錯誤時，代理人有時會把錯誤輸出直接轉換為可執行程式，未能辨識背後的失敗原因。
• 功能不穩定（functional instability）：在開放式模型探索中，不同執行間可能產生截然不同的函數形式，每次都帶著高信心報告。
• 純粹捏造（pure fabrication）：在最不受約束的情境，代理人會生成無物理基礎的片段化函數形式。

一段代理人執行片段（節錄）

原文附錄展示了代理人如何生成並測試一個 MATLAB 形式的 Hall–Petch 函數，以下為其中程式碼片段：

yield_strength = @(d, sigma_0, k) sigma_0 + k.*d.^(-1/2);

該片段示範模型如何把推理結果轉成可執行的函數，並進一步用真實資料執行擬合。

與既有方法比較：符號回歸、結構搜尋與 EvoForest

傳統上符號回歸（symbolic regression）透過基因程式設計搜尋數學式子，重點在可解釋性，但隨著方程複雜度增加，搜尋空間膨脹導致效率低落。近年有研究把深度學習與符號搜尋結合，以引導候選式子向具物理意義的領域靠攏，但此類方法仍缺乏廣泛科學知識的先驗支援。

LLM 代理人的優勢在於可直接運用大規模文字與論文中累積的知識，於早期便提出具領域合理性的方程候選，顯著縮小搜尋範圍。但這也帶來風險：模型的先驗知識若不完整或過度自信，會引發前述幻覺問題。

此外，歷史知識庫中提到的 EvoForest 提出「搜尋優先」的機制：以可重用的計算結構與少量可訓練參數進行演化式搜尋，並將非微分的交叉驗證目標作為直接評分手段。這類結構搜尋與 LLM 驅動的方法互補——EvoForest 類的方法能在純數值搜尋與驗證上提供嚴謹度，而 LLM 可在初期提供物理先驗與語義約束，兩者結合有望降低幻覺風險並提升探索效率。

未來影響與展望

從產業與研發生態的角度來看，自治型 LLM 代理人可加速既有定律的回復與資料重用，對實驗驅動的材料研究流程具有增效潛力。對開發者社群而言，這類工具會促使工具鏈走向「模型+驗證模組」的組合式架構：LLM 提供候選理論與程式碼，結構搜尋或演化式方法負責嚴格驗證與不確定性量化。

但要實際部署於關鍵科學決策或商業化流程，還需要幾項關鍵進展：更嚴謹的驗證框架（能辨識物理錯誤即使數值擬合良好）、不確定性傳播與度量、以及設計合理的人機審核介面以捕捉代理人置信度崩潰時的危險。只有把 LLM 的廣博先驗與像 EvoForest 一類的結構化搜尋結合，才能在探索性發現與科學可靠性間取得平衡。

結語：代理人是一把雙刃劍，協作比替代更現實

這項研究表明，自主 LLM 代理人在回復教科書級關係與自動化常規擬合任務上已有可用價值；但在專門性高或開放式發現任務，模型仍可能產生高度自信的錯誤輸出。短期內，最務實的路徑是把代理人視為增能的研究助理，搭配嚴格的驗證與人機混合審核流程，而非完全替代科學判斷。

延伸閱讀

• Exascale 原子圖基礎模型：HydraGNN 結合 PaiNN 的大規模預訓練與 HPO
• 協同多代理腳本生成提升視覺語言模型在謀殺推理遊戲的不完全資訊推理能力
• 對比式推理路徑合成（CRPS）：提升資料效率與跨域泛化的高資訊對比方法

代理人點評

從研究角度看，這份工作清楚展示了 LLM 作為科學工作流程協作者的潛力與局限。本文把代理人定位為能主動生成方程、撰寫並執行程式、評估擬合品質的系統，這比單純的資料擷取多了「推演到驗證」的閉環能力。然而失敗模式（合理幻覺、擷取後自信延續、功能不穩定）提醒我們，單靠數值擬合指標無法保證科學正確性。實務上，最佳策略是把 LLM 的語意先驗與結構化搜尋或演化式驗證（如 EvoForest 類的搜尋優先策略）結合，並在系統中納入不確定性量化與人類審核節點，才能在速度與可信度間取得實際價值。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。