技術主權

Open Source AI

缺乏 RLHF 與安全對齊：法國開源 AI 機器人 Lucie 因嚴重幻覺暫停服務

法國開源 AI 聊天機器人 Lucie 上線三天後即被暫停，原因在於其產生大量荒謬錯誤，包括建議食用「牛蛋」及提供非法藥物食譜。開發團隊承認模型缺乏 RLHF 訓練與安全護欄，且過早公開發布，目前已下線進行修正。