深度分析
IMSE:內在頻譜專家混合微調提升測試時適應效能
測試時適應面臨資料分布差異問題。IMSE 透過 Vision Transformer 的奇異值分解僅調整奇異值,並加入多樣性最大化損失防止特徵崩解。實驗證明在 CTTA 情境提升 3.4 個百分點,同時參數需求減少 385 倍。
深度分析
測試時適應面臨資料分布差異問題。IMSE 透過 Vision Transformer 的奇異值分解僅調整奇異值,並加入多樣性最大化損失防止特徵崩解。實驗證明在 CTTA 情境提升 3.4 個百分點,同時參數需求減少 385 倍。
Vision Transformer
研究針對視覺 Transformer 前饋層的二次特徵設計提出正交二次補充(OQC),透過低秩輔助分支並投影至主分支的正交補集,以避免資訊重疊。完整 OQC 在 CIFAR‑100 上將基線提升至 65.59%,OQC‑LR 提供更佳速度‑準確率平衡,動態門控版本在 TinyImageNet 上再增 1.43 點。此方法顯示出提升表徵幾何與類別分離的潛力。