深度分析
Program-as-Weights(PAW):將模糊函數編譯為本地神經程式的全新範式
隨著模糊函數越來越多被外包給大型語言模型 API,研究者提出 Program-as-Weights(PAW)將自然語言規格編譯成小型本地執行的神經程式。PAW 使用 4B 編譯器產生 LoRA 適配器,讓 0.6B 解譯器在記憶體與速度上遠優於直接呼叫 32B 模型。此技術有望降低成本、提升可重現性,並推動小模型本地化的未來趨勢。
深度分析
隨著模糊函數越來越多被外包給大型語言模型 API,研究者提出 Program-as-Weights(PAW)將自然語言規格編譯成小型本地執行的神經程式。PAW 使用 4B 編譯器產生 LoRA 適配器,讓 0.6B 解譯器在記憶體與速度上遠優於直接呼叫 32B 模型。此技術有望降低成本、提升可重現性,並推動小模型本地化的未來趨勢。
VibeThinker
WeiboAI 的 VibeThinker 系列在 GitHub Trending 上快速攀升,1.5B 版已開源,2026 年推出 3B 版,採用 Spectrum‑to‑Signal 訓練流程結合監督微調與自我蒸餾,於可驗證推理基準達到前沿表現,顯示小模型亦能提供高品質推理。
VibeThinker
WeiboAI於2025年開源VibeThinker-1.5B與2026年推出3B版本,採用Spectrum-to-Signal原則與多階段後訓練,結合監督微調、強化學習與自我蒸餾。實驗顯示1.5B在三項數學基準上超越400倍規模的DeepSeekR1,3B在可驗證推理上達到表現,凸顯小模型推理可能。