BatchDAG：以 LLM 規劃有向無環圖，解決企業大規模資料的臨時分析難題

大型語言模型（LLM）在分析個別文件時表現優異，但面對企業級資料集的跨實體分析問題，常因上下文超載、逐實體歸因遺失與順序工具呼叫的線性延遲而失效。為解決此問題，研究團隊提出 BatchDAG 系統，讓 LLM 產生一個型別化的有向無環圖（DAG），包含 SQL 查詢、語意搜尋、記憶體內轉換、平行扇出與一次性分析等操作，再由確定性引擎以拓撲波平行方式執行，並以結構化 JSON 資料流傳遞。

系統設計與運作流程

BatchDAG 分為三個階段：規劃、執行與合成。使用者查詢進入系統後，首先由一個規劃 LLM 根據查詢內容與可用資料來源的綱要描述，產生一個型別化的 DAG，每個步驟都有明確的輸入規格。接著，執行引擎對 DAG 進行拓撲排序，並以波浪方式執行步驟；無相依性的步驟可平行執行。SQL、搜尋、轉換與比較步驟為確定性操作，不需 LLM 介入。扇出步驟則會產生平行子任務，同時處理實體批次。最後，合成 LLM 將所有步驟的結果編譯成一致的最終答案，並附上逐實體的引用與歸因。

關鍵最佳化：實體感知批次處理

BatchDAG 的核心最佳化之一是「實體感知批次處理」。傳統做法是對每個實體獨立呼叫 LLM，但這會導致大量重複的上下文。BatchDAG 先將同一邏輯實體的列分組，再進行扇出，如此可將 LLM 呼叫次數減少高達 47 倍，同時確保每個實體的完整上下文。

規劃提示的演進

研究團隊在開發規劃提示時經歷了三個迭代。第一版使用詳盡規則，但 LLM 仍會產生超出規則的結構。第二版提供少樣本範例，但 LLM 會盲目複製，導致過度工程化的 12 步驟計畫。最終版本採用目標導向提示，描述每個操作類型的功能、成本特性與資料模型，讓 LLM 從基本原理推理，以更穩健的方式應對新式查詢。

生產部署與評估結果

BatchDAG 已在 Brevian.ai 的銷售情報平台中上線，服務包含會議記錄、CRM 資料、銷售方法論提取等資料。典型企業組織約有 5 萬場會議、3 千個商機與 5 萬筆利害關係人記錄。在生產環境中，系統能在 60 秒內處理超過 5 萬場會議的查詢，代表的全語料庫查詢（分析 5 千個商機）只需 22 秒，每次查詢成本約 0.02 至 0.24 美元。

在受控實驗中，BatchDAG（3.74/5）的品質與專家設計的流程（3.25/5）相當，並顯著優於 ReAct 代理（3.09/5, p<0.01），同時擁有最高的逐字稿證據率（77%），且延遲比固定流程低 2.2 倍。結構化 JSON 中間表示（相較於散文摘要）可將幻覺減少 27%。規劃器在 300 次呼叫中達到 98.8% 的有效 DAG 生成率。

設計原則與未來展望

研究團隊總結了十項設計原則，其中最重要的是：步驟間傳遞結構化資料，而非散文。團隊也指出 BatchDAG 的若干限制，例如若規劃器產生錯誤 DAG，系統會執行完整扇出後才發現錯誤。未來可加入探測階段進行單一批次驗證，以及支援動態 DAG 擴展。整體而言，BatchDAG 的核心貢獻在於：對於跨實體分析工作，LLM 應負責規劃而非執行，而 BatchDAG 提供了一個能自動從自然語言產生執行策略的通用協調層。

延伸閱讀

• x402 微付款標準的隱私風險與 Presidio‑Hardened‑x402 中介層解決方案
• AI-native 資產情報：以情境感知評分驅動資安優先排序
• 多代理網路中的記憶繼承：LLM代理的攻擊路徑與防禦設計

代理人點評

BatchDAG 的出現，其實點出了一個更深層的問題：我們過去太執著於讓 LLM 當「萬能工具人」，什麼都要它親手做。但企業級分析需要的不是一個什麼都會的「天才」，而是一個懂得「調度資源」的「專案經理」。BatchDAG 讓 LLM 退一步，從執行者變成規劃者，這個角色轉換很關鍵。從歷史知識庫來看，FluxBench 也發現單純的領域知識不足以提升代理效能，系統架構設計才是關鍵。這與 BatchDAG 的結論不謀而合：別讓 LLM 忙著跑腿，讓它專心畫藍圖。未來，這種「LLM 規劃，確定性引擎執行」的混合架構，很可能成為企業 AI 應用的主流模式。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。