Hadamard 重參數化

深度分析

COREY：熵導向運算子融合與 Hadamard 重參數化提升選擇性狀態空間模型效能

狀態空間模型在長序列推論上具線性時間優勢，但實務部署常受記憶體頻寬限制。COREY 使用激活熵導向的運算子融合與 Hadamard 重參數化，動態調整融合邊界與平鋪尺寸，降低張量重複與峰值集中。實驗證實其可縮短延遲、提升吞吐並減少 DRAM 流量。