1M token context

大佬動態

Simon Willison 報告：DeepSeek 推出 V4 預覽版，兩款 MoE 模型引發關注

SimonWillison發布訊號指出DeepSeek推出V4預覽版，兩款均為MixtureofExperts並支援100萬token上下文；Pro採1.6T總參數且49B啟動，Flash為284B總參數與13B啟動，並以MIT授權釋出；此一發布將擴展開放權重與長上下文實驗的可及性，可能影響研究與部署習慣。