深度分析
DxPTA:光子 Transformer 加速器的設計空間探索與效能優化
隨著transformer模型在AI的廣泛應用,運算與記憶需求促使光子加速器研發。DxPTA以相干光資料流為基礎,結合參數辨識與限制感知搜尋演算法,自動找出符合面積、功耗、能量與延遲限制的最佳PTA架構。實驗顯示相較於既有設計,可降低超過70%面積與功耗,同時提升搜尋效率至15倍。
深度分析
隨著transformer模型在AI的廣泛應用,運算與記憶需求促使光子加速器研發。DxPTA以相干光資料流為基礎,結合參數辨識與限制感知搜尋演算法,自動找出符合面積、功耗、能量與延遲限制的最佳PTA架構。實驗顯示相較於既有設計,可降低超過70%面積與功耗,同時提升搜尋效率至15倍。
深度分析
隨著小型語言模型在邊緣裝置的需求上升,傳統加速器在自回歸解碼階段受限於記憶體帶寬。EdgeCIM 以65nm記憶體內運算宏核搭配平鋪映射策略,平衡流水線以提升平行度並降低DRAM負擔。實驗顯示其在多模型測試中達到顯著的吞吐量與能源效率提升,成為邊緣即時推論的可行方案。