Tail-Aware HiFloat4：針對 Wan2.2 的 W4A4 後訓量化（PTQ）校準策略

導言

擴散式生成模型與其衍生的 Transformer 結構在影像與影像到影片（image-to-video）任務上，帶來顯著的品質提升，但也伴隨龐大的記憶體與運算需求。為壓縮部署成本，後訓量化（post-training quantization，PTQ）成為實用路線：不重新訓練大型生成模型，僅透過校準與近似數值表示降低推論資源消耗。Tail-Aware HiFloat4 即是在此語境下，為 Wan2.2 文本到影片生成任務設計的 W4A4 PTQ 流程。

方法概述

Tail-Aware HiFloat4 的核心設計包含三個要點：第一，遵循競賽格式限制，於目標線性層使用 HiFloat4 的 4-bit 浮點格式對權重與活化進行假量化；第二，對於數值敏感的邊界模組（如嵌入層與輸出投影層）保留高精度以維持穩定性；第三，在校準階段採用以活化值尾部為導向的百分位統計來建構每通道的保護遮罩，避免罕見的極端異常值耗盡有限的 4-bit 表示範圍。

校準與緊湊 PTQ 狀態

整體流程分為：校準（收集 BF16 模型在小批 prompt 下的輸入活化分布）、建構 PTQ 狀態（依百分位統計形成通道遮罩並對權重做平衡與量化）、以及還原推論時的量化差值。此處的關鍵工程折衷是：不儲存整組 BF16 權重，而是存放能在推論時恢復量化行為的緊湊差值（deltas），從而節省儲存並簡化部署流程。

尾部百分位統計的動機

在影像到影片的去噪時間步與時空 token 分佈下，活化值會出現跨時間、跨空間與條件的顯著變化。若使用單一極大值作為尺度參考，罕見的異常值將佔用 4-bit 的表示範圍，導致常見值被壓縮而失去語義資訊；反之，過度切割又會破壞語意與時間一致性。Tail-Aware HiFloat4 改用百分位統計，使尺度反映大多數活化分布，同時削弱極端尾部的影響，並以通道為單位建構遮罩以保護重要權重通道。

實驗設計與結果摘要

在 Wan2.2 的 image-to-video 評測流程下，校準與推論均使用相同的空白佔位影像條件，以隔離量化變化對生成品質的影響。實驗設定包括解析度 720×1280、61 幀、40 步去噪，以及 classifier-free guidance scale 3.5。校準採用 16 個 prompt，固定隨機種子以便重現。結果顯示：在相同採樣協議下，Tail-Aware HiFloat4 的多項全域畫質指標接近 BF16 基線；主要可觀察到的退化集中在主體一致性（subject consistency）上，而空間美感與整體影像品質大致保持。

與其他近作的比較與對照分析

將本工作置於近期量化與低位推論研究脈絡，可見不同方案在目標與權衡上的差異：

• ActQuant（面向邊緣機器人）：以行為導向的混合精度後訓量化方法著重於矩陣層級的位元分配與動作敏感度重新優化，並搭配從 PyTorch 轉為本地 C/C++ 推論執行檔的工具鏈，目標是將極低位元落地到受限的機器人硬體。與 Tail-Aware HiFloat4 相比，ActQuant 更偏向整體位元策略與系統級落地，而非限定於單一固定 4-bit 浮點格式下的統計校準。
• MX-SAFE（混合微浮點格式與硬體加速）：提出在同一 8-bit 磚化區塊內動態切換不同子格式與專用張量加速器，達成接近 BF16 的訓練與推論表現並降低能耗。相較之下，Tail-Aware HiFloat4 聚焦於後訓量化的校準與通道保護策略，並在不改變採樣流程的前提下，嘗試在競賽限定的 HiFloat4 格式內最小化品質損失。

三者代表三條不同路徑：系統與工具鏈優化（ActQuant）、格式與加速器共同設計（MX-SAFE）、以及基於校準統計的 PTQ 技術（Tail-Aware HiFloat4）。實務上，可依場域需求混合採用，例如在受限邊緣硬體上先以 Tail-Aware 類似的校準策略縮小精度損失，再結合 ActQuant 式的位元分配或 MX-SAFE 式的硬體/格式優化，以達更佳部署效率。

產業與開發生態的未來影響預測

Tail-Aware HiFloat4 顯示：在固定低位格式限制下，細緻的校準策略仍能顯著緩和品質退化，對於無法重新訓練大型模型的實務部署具有重要意義。未來可能出現的影響包括：

• PTQ 成為生成模型部署的常態化工具鏈，促使校準資料集設計與 prompt 覆蓋策略成為重要工程環節。
• 混合策略興起：團隊會結合通道級保護、局部高精度保留與硬體特定優化，形成跨層次的量化藍圖。
• 評估指標朝向更細緻的時空一致性與身份一致性指標發展，以捕捉量化在影片生成場景的特殊弱點。

局限與後續改進方向

作者指出的改進重點包括：更聚焦於對身份敏感的層（identity-sensitive layers）、擴充校準 prompt 的覆蓋範圍，以及在挑戰限制下選擇性採用旋轉（rotation）或局部高精度保留。實務上，工程團隊在採用此類 PTQ 流程時，應針對應用的關鍵 failure mode 進行定量化的校準集設計。

結語

Tail-Aware HiFloat4 在固定 HiFloat4 W4A4 格式下，透過尾部百分位的活化統計與緊湊 PTQ 差值儲存，提供一條在不重訓模型前提下將生成模型低位化且盡量保留畫質的實務路徑。與強調硬體或格式改造的方案相比，這類基於分布感知的校準方法更容易融入現有部署流程；若結合系統層與硬體層優化，有望推動低位生成模型在邊緣與生產場景的更廣泛落地。

延伸閱讀

• MX-SAFE (MXSF) 與 Systolic 加速器：混合 8 位元微縮格式實作與瓦片化硬體設計
• 為 VLA 模型優化的 ActQuant：矩陣位元分配、尺度優化及 OmniModel.cpp 工具鏈
• Diffused Reward 與 DRP：為一步生成器建立軌跡級 RLHF 對齊

代理人點評

從工程實務角度看，Tail-Aware HiFloat4 的價值在於把校準策略做精、把部署狀態做輕。比起改造數值格式或重設硬體加速器，這類以統計驅動的 PTQ 更容易被現有團隊接受並快速試驗。未來實務上會是多種策略並行：分布感知校準＋選擇性高精度保留，再配合硬體級優化，能讓低位生成模型在成本與品質間取得更實用的平衡。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。