災難性遺忘

深度分析

SHIELD：結合超網路與區間算術的持續學習防禦架構

傳統深度模型在持續學習時常出現遺忘問題，同時對抗式擾動也能輕易改變預測，兩者缺一不可的防護需求長期未被同時解決。研究者提出 SHIELD，利用超網路產生任務專屬的權重向量，並將目標模型的輸入以區間形式傳遞，藉由區間立方體保證在指定範圍內的所有樣本皆得到相同預測，從而同時抑制遺忘與提升對抗魯棒性。