microscaling

深度分析

MX-SAFE (MXSF) 與 Systolic 加速器：混合 8 位元微縮格式實作與瓦片化硬體設計

量化已成為降低深度學習訓練與推論成本的關鍵工具。本文改寫報導 MX-SAFE（MXSF），一種在同一 8 位元微縮區塊內動態切換兩種子格式（寬尾數 E2M5 與高動態 E3M2）的混合 MXFP 設計，並以瓦片化區塊減輕重量化負擔。