tagdispatch

深度分析

XGrammar 2：以 TagDispatch、Earley 解析與 JIT 編譯優化動態結構生成

面對工具呼叫與條件化結構輸出需求，XGrammar2透過TagDispatch標籤分發、JIT即時編譯與跨文法快取，減少遮罩生成與預處理成本；實驗顯示性能顯著優於既有引擎，且可近乎零延遲整合至推理流程。有助於模型在代理任務中更可靠地輸出結構化結果與工具呼叫。