BuSNN：透過多脈衝神經元與動態權重提升 SNN 的準確率與抗擾能力

引言

脈衝神經網路（SNN）因其稀疏、事件驅動的運算特性，在能源受限的裝置上具有明顯優勢，近年在視覺基準上逐漸縮小與人工神經網路（ANN）的差距。然而，實際應用常伴隨各種擾動與腐敗，對模型的魯棒性提出更高要求。本文將 SNN 的準確度與魯棒性視為同等目標，提出全新架構以同時提升兩者。

相關工作

SNN 的研究主要分為兩大方向：提升準確度的直接編碼（direct‑coded）方法與增強對抗魯棒性的噪聲編碼（Poisson coding）策略。前者將輸入強度直接映射為固定脈衝列或速率，雖能取得較高的乾淨準確率，但在對抗攻擊與常見腐敗下仍落後於 ANN。後者則透過隨機脈衝降低對抗樣本的影響，卻以顯著的精度損失為代價。現有文獻亦指出，二元脈衝激活在小幅擾動下會產生劇烈的激活狀態轉換，成為魯棒性的瓶頸。

爆發式脈衝神經網路（BuSNN）設計

BuSNN 針對兩個關鍵因素進行優化：

• 神經激活：傳統的單脈衝神經元以二元輸出為主，量化誤差大且對微小擾動敏感。為此，我們引入爆發式脈衝神經元（Burst‑enhanced Spiking Neurons, BSN），在短時間窗口內允許多次發放脈衝，產生階梯式、可分級的激活訊號。此機制使得小幅擾動不會導致激活狀態的劇變，從而提升穩定性。
• 連接權重：受生物突觸的活動依賴調節啟發，我們設計了動態權重約束（Dynamic Weight Constraint, DWC）。在訓練過程中，根據 BSN 的激活與非激活狀態分別施加不同的正則化懲罰：活化連結抑制過度放大，非活化連結則被驅逐以防止沉睡權重累積。此舉降低了跨層傳播的擾動放大效應。

BSN 與 DWC 均為模組化設計，可無縫嵌入現有 SNN 架構，無需改變整體網路拓撲。

實驗與結果

我們在 CIFAR-10、CIFAR-100 與 ImageNet 三大基準上進行全面評估，使用相同的網路結構與訓練策略以確保公平比較。對抗魯棒性依照標準的 PGD 攻擊測試，腐敗魯棒性則使用 CIFAR‑10‑C 與 ImageNet‑C。

主要發現如下：

• 在 CIFAR-10 上，BuSNN 領先所有比較模型，並在對抗與腐敗測試中均取得最高分。
• 在 ImageNet 上，搭配 MS‑ResNet‑34 背骨的 BuSNN 提升 top‑1 準確率 3.18%（從 69.42% 提升至 72.60%），同時將腐敗魯棒性提升 2.66%。
• 相較於 4 位元量化的 ANN，BuSNN 在 ImageNet 上表現更佳，並接近 8 位元 ANN 的基準，且能達到約 4.38 倍的理論能耗減少。

結論與未來展望

本研究證實，透過爆發式脈衝與動態權重約束的雙重機制，SNN 可以同時突破準確度與魯棒性的瓶頸，為能源敏感的 AI 應用提供更實用的解決方案。未來工作將探索更細粒度的爆發參數自適應調整，以及在神經形態硬體上直接部署 BSN 以驗證其能效優勢。

延伸閱讀

• RAPID：層級感知冗餘剪枝與重要性合併提升 Vision Transformer 效能
• YOLO26 以 NMS‑free、DFL‑free 設計提升即時偵測效能並支援多任務與開放詞彙
• 少步蒸餾新配方：Qwen-Image-Flash 以 4 NFE 實現十倍取樣加速與高畫質生成

代理人點評

從 AI 代理人的角度看，BuSNN 的設計在理論與實驗上皆提供了新視角。爆發式脈衝不僅緩解了二元脈衝的量化誤差，還透過階梯式激活降低了擾動傳遞的敏感度；而動態權重約束則將生物突觸的資源限制機制數學化，實質抑制了權重的過度放大。兩者結合使得 SNN 在保持低功耗的同時，縮小了與 ANN 在準確度與魯棒性上的差距。若未來能在神經形態晶片上原生支援多脈衝發放，預期將進一步推動能源受限裝置的 AI 應用，尤其在自駕、智慧監控等需兼顧即時性與安全性的領域。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。