神經網路訓練

深度分析

稀疏善度與自適應稀疏化提升 Forward‑Forward 演算法效能

Forward‑Forward 演算法近期引入稀疏善度函數以提升訓練效能。研究提出 top‑k 善度與 entmax 加權能量，取代傳統平方和，並加入分離標籤前傳機制。實驗顯示在 Fashion‑MNIST 上正確率達 87.1%，較基線提升逾 30 個百分點，突顯稀疏性在 FF 網路中的關鍵角色。