跨層轉碼器

深度分析

跨層轉碼器提升 Vision Transformer 可解釋性與層級貢獻分析

研究聚焦於 Vision Transformer 內部激活的可解釋性，提出跨層轉碼器作為稀疏、深度感知的代理模型，利用編碼‑解碼重建激活並分解最終表徵。實驗證明 CLT 在多資料集上保持高重建忠實度，甚至提升零樣本分類準確率，且層貢獻分數顯示關鍵層對表徵影響顯著。