LLM Reasoning 解碼 LLM 推理過程:揭秘「逐步資訊量假設」如何決定 AI 答案正確性 為什麼 AI 的內部熵值變化能預測其答案正確性?這項研究提出「逐步資訊量假設」(SIA),揭示 LLM 在推理時會透過累積資訊量來降低熵值,並證明此機制是由訓練過程誘導出的。透過分析 Gemma-2 與 LLaMA-3.2 等模型,研究揭示了 AI 推理的內部邏輯與正確性之關聯。