遮罩式解釋

深度分析

以資訊通道容量解析 LIME 與 KernelSHAP 的可靠性上限

本研究探討以遮罩方式取得模型局部解釋的資訊理論上限，將說明視為訊道傳輸，推導出說明速率超過通道容量即無法精確復原的強逆定理，並示範在查詢預算有限時，最佳解碼器仍可可靠恢復稀疏說明。實驗顯示在一定查詢次數範圍內，資訊理論上可達到可靠說明，但傳統 LIME 與 KernelSHAP 的凸式回歸仍會失效。