深度分析
以資訊通道容量解析 LIME 與 KernelSHAP 的可靠性上限
本研究探討以遮罩方式取得模型局部解釋的資訊理論上限,將說明視為訊道傳輸,推導出說明速率超過通道容量即無法精確復原的強逆定理,並示範在查詢預算有限時,最佳解碼器仍可可靠恢復稀疏說明。實驗顯示在一定查詢次數範圍內,資訊理論上可達到可靠說明,但傳統 LIME 與 KernelSHAP 的凸式回歸仍會失效。
深度分析
本研究探討以遮罩方式取得模型局部解釋的資訊理論上限,將說明視為訊道傳輸,推導出說明速率超過通道容量即無法精確復原的強逆定理,並示範在查詢預算有限時,最佳解碼器仍可可靠恢復稀疏說明。實驗顯示在一定查詢次數範圍內,資訊理論上可達到可靠說明,但傳統 LIME 與 KernelSHAP 的凸式回歸仍會失效。
深度分析
本文以資訊論角度建模遮罩式後設說明流程,將說明向量視為訊息、遮罩評估視為通道使用,推導每次查詢的資訊容量與強反向界限,並以蒙地卡羅互信息估計作為非漸近查詢基準,指出當說明熵超過通道資訊時任何解碼器皆無法可靠回復,實驗比較最優解碼與Lasso/OLS替代法的差異。