資訊理論度量

深度分析

從熵到整合資訊：AI 系統中七大資訊理論度量的比較與實務決策

隨著資訊理論度量在 AI 中無處不在，本文提供選擇熵、交叉熵、互資訊、傳遞熵及 Phi、EI、自治等七項指標的實務框架，說明各指標適用情境、估算方法與最常見的誤用。藉由流程圖與決策表，協助研究者正確使用並避免將傳遞熵等同因果關係的錯誤。此框架有望提升 AI 研究的可重現性。