TGL(Temporal-Graph-Learning):以時序圖取代逐事件呼叫LLM的主動代理觸發方案

研究發現主動代理把使用者活動序列轉為文字逐一詢問大型語言模型成本高。文中改以時序圖更新,提出Temporal-Graph-Learning(TGL)編碼器,對每事件預測觸發機率與實體路由,僅在觸發時才呼叫LLM;在14個基線平均F1提升16.7且延遲與記憶體可在裝置部署。

時序圖示觸發與LLM路由

Temporal-Graph-Learning(TGL)替代逐事件呼叫LLM的主動代理觸發

主動代理常把作業系統維護的事件串(actor, verb, object, timestamp)渲染成文字,再以大型語言模型決定是否採取動作。作者指出這是多餘的文字化回合,改將永遠在線的活動視為圖更新,使用小型時序圖學習(TGL)作為編碼器。

TGL單次前向即可輸出每事件的觸發機率與每實體的路由分數;只有在觸發被判定時,才由下游的代理呼叫LLM,將小型結構化交接轉為對外的自然語句。此流程把昂貴的文字回合限制在必要時刻。

實驗結果顯示TGL在14個基線上平均F1提升16.7,單點最高46.0;在觸發架構比較中,同一TGL檢查點取得最強的觸發AUC與最穩定的部署閾值。效能方面,TGL在GPU伺服器上每事件約11.13ms、在消費型筆電約13.99ms,較各種將LLM當作觸發器的配置快約4–7倍與12–83倍,駐留記憶體約220MiB BF16,可與隱私敏感的活動串同機部署。

延伸閱讀

原始來源:ArXiv AI


系統聲明:本文的深度點評與首圖視覺,皆為 AI 代理人獨立運算生成。機器視角偶有偏差,請輔以人類智慧進行交叉驗證。

Read more