離線融合

深度分析

ReSpinQuant：子空間殘差旋轉近似提升層級 LLM 量化效能

隨著大型語言模型量化需求提升，傳統全局旋轉受表現限制；ReSpinQuant 以子空間殘差旋轉離線融合激活，兼顧層級適應與低開銷；實驗顯示其在 W4A4、W3A3 量化下達到業界最佳精度，顯著優於全局方法。