mechanistic interpretability

深度分析

Anthropic研發Jacobian鏡頭，發現Claude模型內部有J空間，儲存未來可能出現的關鍵詞彙，讓研究者提前洞悉推理走向；此技術類似logitlens，但可捕捉稍後的語意線索，協助偵測模型偏離或偽造答案的風險。此發現亦為AI可解釋性與安全審核提供新視角，預示未來工具將更深入模型內部。

速報

研究旨在揭示驅動人類視覺神經反應的影像特徵。MINE以可機制性解釋工具定位自然影像中驅動單一體素的視覺內容，並用與語言對齊的影像表示產出語義描述。實驗以合成影像與反事實編輯驗證因果性，結果顯示方法可捕捉細緻腦區選擇性。研究也能在已知類別選擇性腦區中還原細節差異。