文本對抗攻擊

深度分析

SEP-Attack：以DPP驅動的子模型多樣性提升文本對抗攻擊可轉移性

現代語言模型在網路服務中廣泛應用卻仍易受對抗攻擊。SEP-Attack以DPP取樣產生多樣化替代模型權重，再用加權信心估算字詞重要性以生成候選替換，最後以轉移性得分篩選有效對抗樣本。實驗於四資料集及兩雲端API展現優於既有方法的攻擊能力與效率。