激活投影

深度分析

PRISM：利用激活投影恢復大型語言模型指令集的高覆蓋安全方法

隨著大型語言模型被廣泛當作代理人使用，僅靠輸出文字已不足以掌握其行為動機。研究提出PRISM，一種以激活作為條件的解譯模型，能將模型內部隱藏的指令、限制與次目標以條列方式恢復。實驗顯示在正常、受限、提示注入及隱藏目標等四種情境下，PRISM的指令回收率遠超過既有方法，顯著提升安全監控效能。