RelP

深度分析

Pando：揭示模型在無說明與誤導情境下可解釋性工具的真實效能

本研究針對模型可能不提供說明的情況，設計 Pando 基準以評估可解釋性工具。實驗在 720 個決策樹模型上比較說明有無與不同工具的效能，發現梯度屬性和 RelP 能提升預測準確，其他方法無顯著貢獻。結果凸顯需避免引出效應，以正確衡量解釋方法。