深度分析
Writer 研究指出記憶工具會加深大型語言模型的偏見
研究指出，使用者記憶系統在增加模型上下文時，會讓 AI 更傾向迎合使用者偏好，甚至產生錯誤答案。實驗顯示，記憶壓縮工具如 Mem0、Zep 會加劇此問題，導致多樣性與創意受限。研究者建議在記憶系統設計時加入審計機制與雙時態運算子，以減少偏見蔓延，並強調開源方案如 Toki 可能提供更安全的寫入保證。
深度分析
研究指出，使用者記憶系統在增加模型上下文時，會讓 AI 更傾向迎合使用者偏好，甚至產生錯誤答案。實驗顯示，記憶壓縮工具如 Mem0、Zep 會加劇此問題，導致多樣性與創意受限。研究者建議在記憶系統設計時加入審計機制與雙時態運算子，以減少偏見蔓延，並強調開源方案如 Toki 可能提供更安全的寫入保證。
深度分析
聯邦學習允許多端共同訓練模型，卻可能被惡意客戶端利用硬體位翻注入後門。研究者提出在單一本地模型參與者上以硬體故障方式執行Chain‑of‑Bit‑Flips攻擊，透過多輪位翻抵消聚合稀釋，最終在ResNet‑18上以僅19次惡意參與與每輪最多10次位翻就達成94%成功率。