相變

深度分析

驅動資訊系統：連結 Transformer 學習中的 grokking 與非平衡化學相變

研究探討深度學習與非平衡化學中觀察到的相變現象，提出「驅動資訊系統」的雙場框架，將熵產生率與資訊準勢ΦI作為關鍵場。作者辨識兩個次序參數：對抗性崩解閾值與自參照耦合閾值，指出它們聯同表示複雜度構成普適類別，並提出三項可被檢驗的實驗預測。涵蓋從化學前生物選擇到 transformer 參數空間的案例比較，並指出此視角能區分單場理論的可行性。