model-interpretability

深度分析

從 SAE 特徵到機制圖：多尺度共現與層間轉碼器的內部知識組織

本文報導一套把稀疏自編碼器（SAE）特徵重構為領域專屬知識圖的流程。研究先用對比式多階段過濾從大量特徵中挑出嚴格的領域概念，再用兩種對齊的圖形視圖呈現其結構：一個多尺度的共現圖揭示語料層級的概念分佈，另一個基於轉碼器的機制圖則描繪跨層可讀的因果路徑。