速報 注意力頭重新加權 (AHR):以單一標量高效適應大型語言模型 在標記資料稀缺的安全等領域,如何讓大型語言模型在少量樣本下仍具備學習能力是關鍵挑戰。研究提出「注意力頭重新加權 (Attention Head Reweighting, AHR)」方法,只為每個注意力頭學習一個標量,藉此大幅降低需調整的參數量,僅佔模型參數的約 0.0001%。