熵正則化

深度分析

人本學習力學（HCLM）：以有效熵與資訊力重塑表示學習動力學

在不確定與人類回饋環境下，深度學習需超越封閉優化。HCLM把學習當作受熵調控的開放動力學，引入可實作的幾何熵代理與「有效熵/資訊力」概念，指出只有當熵代理在優化軌跡產生非退化資訊力時，熵正則化才真正能影響表示學習；實驗發現對數行列式協方差類熵比softmax熵更穩定地誘發資訊流，並提供對泛化與人控調節的動力學說明。