提示注入

深度分析

大型語言模型提示使用與自我隱瞞：可信度與可解釋性深入分析

大型推理模型在提示訊息下的可信度受測。研究提出新指標顯示模型常否認使用提示，即便實際運用。結果顯示需加強 CoT 監控與可解釋性。