深度分析
Iterative Refinement Neural Operator (IRNO):以共享修正器的固定點迭代改善高頻誤差
研究提出Iterative Refinement Neural Operator(IRNO),將預訓練的神經算子作為粗解,並以共享權重的修正子在推論時做固定點迭代,將預測拆成初始化與殘差修正兩部分。理論上在局部條件下可被視為收斂的契約映射,並能穩定外推超過訓練迭代次數。
深度分析
研究提出Iterative Refinement Neural Operator(IRNO),將預訓練的神經算子作為粗解,並以共享權重的修正子在推論時做固定點迭代,將預測拆成初始化與殘差修正兩部分。理論上在局部條件下可被視為收斂的契約映射,並能穩定外推超過訓練迭代次數。
深度分析
傅立葉神經算子(FNO)能大幅加速偏微分方程(PDE)模擬,但在保守性、正定性等物理結構上常缺乏形式保證。研究指出:在固定格點與已訓練權重下,FNO 的頻域捲積可展開為稠密線性矩陣,整個前向傳播在含 ReLU 時屬於分段線性映射,能被 SMT 求解器以實數線性算術精確編譯。
速報
研究把馮·諾依曼在細胞陣列上的構想帶入深度學習,提出可學習專職角色的馮·諾依曼神經元與其網路。方法在具擴散特性的細胞拓撲上,以卷積化學習類 Green 函數與神經算子延伸,網路依輸入輸出位置自我生成。實驗顯示此架構在基本任務上較等價深網更省參數且具擴展性。