門控殘差

深度分析

ACROS：以門控殘差在不重訓下為解碼式LM引入可控詞義表示

語詞常帶多重意義，但現有方法通常把詞義架構內建於模型或侷限於單一任務。ACROS提出一個架構不可知的門控殘差感知介面，將顯式的詞義變數誘導到一個凍結的解碼式語言模型旁路，保留原始預測路徑不變。