效能預測

速報

LLM 成為 GPU 核心效能預測代理，大幅提升深度學習核函式搜尋效率

GPU 核心函式的效能測試成本高，研究以大型語言模型作為選擇性 GPU 替代，預測核函式相對表現。實驗顯示 LLM 能準確預測且經強化學習後校準度提升，讓搜尋在相同 GPU 預算下評估更多候選。最終找到的核函式比傳統基線更快，證明 LLM 可成為 GPU 虛擬模型，協助核函式優化。