深度分析
LLM‑Solver 敘事缺口分析:驗證結果易受 Prompt Injection 顛倒
研究指出,將SAT/SMT求解器與大型語言模型結合的流程缺少敘事驗證,攻擊者可透過提示注入在最終回覆中顛倒驗證結果,實驗顯示即使使用證書門檻仍無法完全防禦。此問題揭示了LLM與形式工具結合時的安全盲點,研究亦測試了硬化提示的防禦效果,發現仍可被適應性攻擊繞過。
深度分析
研究指出,將SAT/SMT求解器與大型語言模型結合的流程缺少敘事驗證,攻擊者可透過提示注入在最終回覆中顛倒驗證結果,實驗顯示即使使用證書門檻仍無法完全防禦。此問題揭示了LLM與形式工具結合時的安全盲點,研究亦測試了硬化提示的防禦效果,發現仍可被適應性攻擊繞過。
深度分析
隨著自然語言需求轉譯成求解器可用邏輯的需求升高,VeriTrans 以指令微調翻譯模型加回溯驗證管線,將 NL→PL 轉譯的正確性提升至 94.46%。此系統在 SatBench 測試中展現高可靠性與可審計特性,為關鍵工作流提供可重現的 AI 前端。