動態稀疏排程

深度分析

動態稀疏排程提升大型語言模型長上下文強化學習效能

在強化學習中，驗證式獎勵導致極長的思考鏈，使訓練成本高企。研究提出動態稀疏排程，透過控制稀疏與密集策略的尾部不匹配，實現2倍以上生成加速，同時保持穩定性。此方法在多尺寸Qwen3模型及程式碼任務上皆驗證有效。動態稀疏排程根據生成長度調整KV預算，確保每個代幣的低位不匹配保持在安全門檻以上。