Diffusion Large Language Model

深度分析

WaveFilter：利用離散小波轉換提升擴散模型長上下文 KV 快取效能

WaveFilter以小波轉換改良擴散語言模型的KV快取，結合粗粒度語意概覽與多尺度遞迴篩選，顯著降低長序列計算成本，同時提升生成品質與效能，為長上下文任務提供更實用的解決方案。結合Fast‑dLLM後，WaveFilter在LongBench基準提升2%準確率，且吞吐量近，降低長上下文部署門檻。