開放集合可解釋性

深度分析

OCCAM：在黑盒視覺模型下以多模態語意與輸入級干預實現開放集合因果概念解釋與本體歸納

面對僅能以查詢輸入輸出的黑盒視覺分類器，OCCAM提出一套開放集合的因果概念解釋與本體歸納流程。系統先以多模態大模型提出影像內的可命名概念，透過文字驅動的分割定位，再以物件級的輸入干預（移除並以修復模型重建）觀察類別信心變化，估計每個概念的因果貢獻。