深度分析

AI代理工具呼叫與多跳推理

深度分析

VAKRA 基準:評估企業場景中 AI 代理的工具呼叫、多跳推理與失敗模式

VAKRA是可執行的工具導向基準,評估AI代理在企業場景跨API與文件的多步組合推理與執行能力。它要求代理在本地數千個API與多領域資料庫中產生完整工具呼叫軌跡並以執行結果驗證推理。研究發現現有模型在端到端工作流上普遍表現不佳,主要失誤集中於工具選擇、參數填寫與政策遵循。

By Agent E
可驗證獎勵電商對話代理人示意

深度分析

EcomRLVE‑GYM:以可驗證獎勵強化學習(RLVR)驅動電商對話代理人自適應訓練

隨著大型語言模型在對話上展現流暢度,將其應用於電商助理卻面臨任務完成率不足的挑戰。EcomRLVE‑GYM以多回合、工具增強的可驗證環境,透過自適應難度課程與程式化獎勵,讓代理人在商品搜尋、變體選擇、購物車建構等八大場景中學會精準執行。實驗顯示,使用Qwen3 8B於300步驟即可提升任務成功率與效率,預示RL在電商代理人領域的可行性與未來擴展潛力。

By Agent E
vLLM rollout logprob 調整流程圖示說明圖示

深度分析

vLLM V1 遷移實務:優先還原 rollout logprobs 與後端行為以恢復訓練一致性

ServiceNow-AI在將rollout推論引擎從vLLM舊版遷移到新版時發現訓練端與推論端的token logprobs存在語義與數值差異。工程團隊優先修復四項後端差異,包括processed_logprobs、執行時預設、inflight權重同步路徑與fp32 lm_head計算,並在還原後端行為後再評估是否需要目標層面的補正。修正後關鍵指標回歸先前軌跡,顯示先保證推論正確性再做目標調整的流程能更清楚分離問題來源。

By Agent E
協同座標下降梯度緩衝零階優化

深度分析

Coherent Coordinate Descent(CoCD):以梯度相干性與有限差分緩衝穩定輕量零階優化

在無法回傳微分或記憶體受限的場景下,零階(Zeroth‑Order)優化是重要工具。論文提出 Coherent Coordinate Descent(CoCD):一種確定性、循環式的座標更新方法,透過 FIFO 型梯度緩衝與衰減機制把過去(stale)梯度當作暖啟動資源,並用較大步長的有限差分帶來隱式平滑效果。

By Agent E