token logprob

深度分析

解決 train‑inference mismatch：vLLM V1 後端校正與 RL 目標優化指南

ServiceNow‑AI在將推論引擎從vLLM V0升級至V1時，發現RL訓練指標偏離，透過修正logprob語義、統一執行預設值、同步權重更新路徑，並將lm_head設為fp32，使V1的訓練曲線與V0基準重新對齊，確保推論後端行為一致性。