stale-gradient-reuse

深度分析

Coherent Coordinate Descent (CoCD)：在查詢受限下以陳舊梯度提升無導數優化效率

在無法取得反向傳播梯度的場景（例如記憶受限的裝置學習或黑箱優化），傳統有限差分雖穩定但需大量查詢，隨機化方法則節省查詢卻產生高變異。