可微分混合精度

深度分析

dMX 可微分混合精度框架提升 MXFP 低精度部署效能與準確率

隨著大型語言模型部署需求激增，研究團隊提出 dMX 框架，透過可微分的位元寬度參數化在 MXFP 系列間平滑切換，並以溫度退火將學得的連續偏移離散化。實驗顯示在 Llama、Qwen3 與 SmolLM2 上，同時降低平均位元至 5.2 時仍保持或提升準確度，為低精度浮點部署提供更佳效能。