量化向量

深度分析

量化向量（QV）：將 QAT 位移以權重修補提升 3-bit PTQ 魯棒性

研究指出極低位元的後訓量化會顯著破壞模型表現；本文提出量化向量（QV），以權重空間算術從已做QAT的捐贈者提取方向並貼到接收模型；在Vision Transformer與3-bit PTQ上，QV貼補大幅提升抗量化退化效果，且不需接收端訓練資料即可零樣本轉移。