對抗推理

深度分析

資料不平衡與模型容量交互提升 Transformer 魯棒推理的梯度放大機制

研究聚焦於資料不平衡對抗虛假相關的影響，發現高比例捷徑樣本在容量足夠的模型中會使反捷徑梯度放大，促使注意力電路重組，提升對抗測試準確率。此發現挑戰了傳統上必須平衡資料的做法，並提供了一條利用不平衡提升模型魯棒性的路徑。實驗在多種二元與三元任務上皆驗證，顯示此機制與資料比例偏離隨機基準的程度相關。