BF16 稀疏傳輸

深度分析

「Delta Weight Sync」降低非同步強化學習帶寬瓶頸：BF16 稀疏差異與 Hub Bucket 實作

為了解決非同步強化學習訓練中每步需傳送完整模型的成本問題，HuggingFace以Delta權重同步技術，只傳送bf16權重的稀疏差異，透過HubBucket以safesensors檔案傳遞。實驗顯示每步上傳從1.2GB降至約30MB，顯著降低帶寬與等待時間，提升訓練與推論彈性。