weierstrass-positional-encoding

深度分析

Weierstrass 橢圓位置編碼（WePE）：以複分析重建 ViT 的二維幾何

在VisionTransformer缺乏內建二維幾何知識的背景下，論文提出Weierstrass橢圓位置編碼（WePE），以複數域上的Weierstrass函數映射影像補丁座標，維持二維網格結構並具雙重週期性與距離衰減性質。實驗顯示WePE在多數訓練與微調場景帶來一致性效益。