神經網路可解釋性

深度分析

固定表徵 OLS 讀出層實作案例基礎審計：解析神經網路決策背後的訓練案例

隨著神經網路在醫療、信用與能源等高風險領域的決策應用日增，解釋需求已從特徵貢獻擴展到訓練案例證據。研究提出針對固定表徵OLS讀出層的案例加權分解，將行動分數表達為訓練回報的線性聚合，並區分相似度語意與Gram幾何影響。實驗顯示此審計框架能在不重新訓練下辨識關鍵案例、評估行動一致性，提升模型透明度與風險管理。