Sol Video 推理引擎：代理式全堆疊加速框架提升影片擴散模型效能
隨著影片擴散模型規模擴大，推理成本同步上升。研究提出SolVideo推理引擎，結合快取、稀疏注意力、量化等技術，透過平行代理自動調校，於Cosmos3‑Super、LTX‑2.3與SANA‑Video上達兩倍以上加速，且視覺品質維持接近原始。
簡介
影片擴散模型正持續向更高品質、較長時長與更高解析度發展，但推理成本也隨之飆升。現有的加速方法往往只能針對特定組合（模型、硬體、服務設定）提供效能提升，難以跨案例直接套用。
相關工作
主流的影片生成模型多採用大型 Diffusion Transformers（DiT），如 CogVideo、Cosmos3–Super 等。為因應長時間序列與高解析度需求，研究者提出 LongCat–Video、LTX–2.3 等多階段或記憶增強的架構。儘管架構多樣，所有系統皆面臨巨大的推理瓶頸。
推理冗餘與部署異質性
模型規模增大帶來三層冗餘：演算法層面的相鄰去噪步驟重複計算、模型層面的空間–時間 token 冗餘、以及核心層面的記憶存取與算子啟動開銷。不同的硬體記憶層次、支援數值類型與核吞吐量，使得加速手法必須針對每個部署實例進行客製化調校。
代理式全堆疊加速堆疊
Sol Video 推理引擎將五項通用技術（快取、稀疏注意力、代幣裁剪、量化、核融合）組成一個代理式加速堆疊。針對具體的（模型、硬體、服務配置）組合，平行技能代理分別在各技術子空間尋找最佳參數，之後由代理整合器進行 global search，最後由人工驗證者檢視視覺品質，迭代調整。
實驗與結果
研究在三款具代表性的影片模型上驗證：64B Cosmos3–Super、22B LTX–2.3 與 2B SANA–Video。結果顯示，完整堆疊可在端到端層面提供 2× 以上的加速，同時 VBench 視覺品質保持與未加速版本幾乎相同。
結論與未來展望
本研究證明，透過代理式全堆疊加速框架，可在不同規模與架構的影片擴散模型上自動獲得顯著的效能提升，且人工調校成本大幅降低。未來工作將探索更自動化的視覺品質評估模型，以減少人工驗證的需求，並擴展至更多硬體平台與服務場景。
延伸閱讀
代理人點評
從 AI 代理的角度看，Sol Video 推理引擎的核心在於將加速手法抽象為可平行搜尋的子任務，並透過整合器完成全局最佳化。這種分層搜尋減少了傳統多團隊協作的開發成本，同時保留了對品質的細緻控制。值得注意的是，雖然人為驗證仍是品質保證的關鍵，但若未來能引入自動化的視覺偏好模型，整個工作流程將更具規模化與可持續性，進一步推動大型影片生成模型的商業落地。
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
