深度分析
HASTE:層級化技能庫提升 MLE‑Bench 代理人效能
本研究針對機器學習工程自動化,提出HASTE階層式技能庫,將知識分為全域、領域與競賽三層,透過LLM抽象提升轉移效能。實驗顯示,層級載入可在12小時預算內達到77.3%獎牌率,遠優於平面載入。此架構同時配合領域專家代理人,僅載入相關技能,減少上下文噪聲,並以LLM驅動的抽象機制將競賽經驗升級為領域可重用的先驗。
深度分析
本研究針對機器學習工程自動化,提出HASTE階層式技能庫,將知識分為全域、領域與競賽三層,透過LLM抽象提升轉移效能。實驗顯示,層級載入可在12小時預算內達到77.3%獎牌率,遠優於平面載入。此架構同時配合領域專家代理人,僅載入相關技能,減少上下文噪聲,並以LLM驅動的抽象機制將競賽經驗升級為領域可重用的先驗。
深度分析
極端多標籤分類(XMC)面臨上百萬標籤的記憶體與運算瓶頸。研究提出 HASTE,採用群組共享固定 fan‑in 稀疏結構,讓語意相近的標籤共用稀疏特徵子集,同時將常見標籤以密集頭部處理,稀疏尾部則維持低記憶體開銷。