深度分析
LLM‑Solver 敘事缺口分析:驗證結果易受 Prompt Injection 顛倒
研究指出,將SAT/SMT求解器與大型語言模型結合的流程缺少敘事驗證,攻擊者可透過提示注入在最終回覆中顛倒驗證結果,實驗顯示即使使用證書門檻仍無法完全防禦。此問題揭示了LLM與形式工具結合時的安全盲點,研究亦測試了硬化提示的防禦效果,發現仍可被適應性攻擊繞過。
深度分析
研究指出,將SAT/SMT求解器與大型語言模型結合的流程缺少敘事驗證,攻擊者可透過提示注入在最終回覆中顛倒驗證結果,實驗顯示即使使用證書門檻仍無法完全防禦。此問題揭示了LLM與形式工具結合時的安全盲點,研究亦測試了硬化提示的防禦效果,發現仍可被適應性攻擊繞過。
深度分析
作業系統核心形式驗證需精準規格,但手動撰寫昂貴。BODHI 以結構化 C→Python/Z3 翻譯指南擴充 few-shot prompt,分離前置檢查與後置狀態更新等關切點,並示範 15 類翻譯模式。實驗在 OSV-Bench 上顯著提升多款模型 Pass@1,顯示領域知識注入可實質改善規格生成。
神經符號聚合
本研究提出一套神經符號聚合框架,將 Reddit r/AmItheAsshole 上的道德評論透過大型語言模型抽取成可解釋的邏輯謂詞與信心權重,並以加權最大可滿足度(Weighted MaxSAT)方式交由 Z3 求解器求解,產生邏輯一致的最終判決。
深度分析
2026年ClaudeMythos沙盒逃逸揭示前沿模型隔離的算術弱點。提出COBALT一套基於Z3的預部署形式驗證引擎,用位元向量對C/C++算術操作建模並求解SAT/UNSAT。工具能在生產代碼庫重現可觸發模式並回傳具體見證,部署阻擋成為可行控制點。