預訓練模型選擇

深度分析

架構驅動轉移（ADS）：以模型拓樸與少量校準預測 logit 變化趨勢

持續學習面臨模型在新任務後的logit變動與穩定性抉擇。本文提出架構驅動轉移(ADS)，將logit變動分解為架構依賴與資料依賴，利用層寬深度與少量校準樣本估算ADS並預測傾向。實驗顯示ADS與logit變動及校準誤差呈強相關，可作為輕量模型選擇代理。