權重搜尋

深度分析

利用貝葉斯模型合併快速預覽提升多任務微調效能

多任務微調需精準權重分配，研究提出利用貝葉斯模型合併快速預覽不同權重組合，透過參數平均與更彈性後驗分布提升預測品質，實驗在視覺與語言Transformer上證明可選出更佳權重，提升最終微調效能。此方法亦可擴展至其他大型模型，預計將加速多任務學習的商業化部署與研究迭代。