低秩卷積適應

深度分析

LoCA：低秩卷積適應提升視覺基礎模型的參數高效微調效能

隨著視覺基礎模型在多樣任務上展現強大表現，如何在保持預訓練空間先驗的同時降低微調成本成為關鍵。研究提出LoCA低秩卷積適應，將通道混合與空間基底分別以低秩方式調整，避免將4維卷積核硬壓成2維矩陣導致的拓撲破壞。實驗顯示LoCA在細粒分類、語意分割與生成任務上均達到或超越最先進表現，同時參數量僅千級。