可解釋AI

速報

因果神經機率電路提升概念瓶頸模型可干預性與準確度

概念瓶頸模型（CBM）透過在神經網路中加入概念層，使最終分類結果可解釋且支援專家在測試時修正概念值。然而傳統 CBM 只會覆寫被修正的概念，忽略概念間的因果關係，導致干預效果受限。研究者提出因果神經機率電路（CNPC），結合神經屬性預測器與由因果圖編譯的機率電路，實現精確且可計算的因果推論，保留概念間的依賴。