Jacobian lens

深度分析

Anthropic 推出 Jacobian 鏡頭：深入觀測 Claude 大型語言模型的 J 空間

Anthropic研發Jacobian鏡頭，發現Claude模型內部有J空間，儲存未來可能出現的關鍵詞彙，讓研究者提前洞悉推理走向；此技術類似logitlens，但可捕捉稍後的語意線索，協助偵測模型偏離或偽造答案的風險。此發現亦為AI可解釋性與安全審核提供新視角，預示未來工具將更深入模型內部。