未結構化剪枝

深度分析

Wanda 權重剪枝放大偏見：後訓練壓縮對邊緣 AI 公平性的影響

IoT與邊緣部署促使壓縮LLM以節省資源。本研究用三款指令模型、三種後訓剪枝法與 BBQ 基準量化比較，發現資料感知的 Wanda 剪枝在語言能力接近原模型時，會顯著放大社會偏見；且未結構化剪枝在實務上並未帶來儲存或延遲優勢，顯示僅以 perplexity 驗證不足以保證部署安全。