大型語言模型防護

速報

LLMbda：以來源追蹤防護大型語言模型代理的新型 Lambda 計算模型

隨著大型語言模型被廣泛用作代理，會面臨提示注入等安全風險。傳統防護多依賴雙模型架構與資訊流控制，卻難以保證完整性。研究團隊提出 LLMbda，一種未型別的 call‑by‑value lambda 計算模型，將來源追蹤、動態資訊流與隔離策略內建於語言層，並以 Lean 完成機器檢驗的安全性證明。