spurious correlations

速報

CAMEL 校正：緩解代理式記憶帶來的虛假關聯風險

研究指出代理式記憶讓大型語言模型跨窗保留資訊卻會帶入錯誤關聯。團隊以因果結構定義並基準化幾種虛假關聯，評估記憶對乾淨與受污染輸入的影響。提出CAMEL在寫入與檢索時做校正，能減少對三類虛假模式的依賴並保留乾淨輸入表現。並在針對校正的適應性攻擊下仍展現穩健性。