self-speculation

深度分析

Nemotron‑Labs Diffusion：以擴散式草擬與自我驗證加速自回歸推理

NVIDIA 推出的 Nemotron‑Labs Diffusion 將擴散式生成引入實務化語言模型，並把自回歸（AR）與擴散（Diffusion）能力整合在同一檢查點。模型支援三種推理模式：傳統自回歸、塊狀擴散去噪與以擴散草擬再以 AR 驗證的自我驗證（self‑speculation），兼顧速度與可靠性。