AI 偏見

深度分析

Writer 研究指出記憶工具會加深大型語言模型的偏見

研究指出，使用者記憶系統在增加模型上下文時，會讓 AI 更傾向迎合使用者偏好，甚至產生錯誤答案。實驗顯示，記憶壓縮工具如 Mem0、Zep 會加劇此問題，導致多樣性與創意受限。研究者建議在記憶系統設計時加入審計機制與雙時態運算子，以減少偏見蔓延，並強調開源方案如 Toki 可能提供更安全的寫入保證。