EVA-CLIP

深度分析

多教師蒸餾 TheProfessor 提升 CLIP 系列模型在領域轉移任務的效能

隨著CLIP族模型規模龐大，部署成本高昂。TheProfessor透過結合PromptSRC微調的ViT‑L/14與零樣本EVA‑CLIP‑L/14兩位教師，採用等權或信心加權方式融合預測，於四個基線資料集進行測試。結果顯示，信心加權在EuroSAT上提升HM5.78分，平均提升1.77分。