嵌入預測模型

深度分析

UR‑JEPA：以均勻可矩形性正則化提升自監督視覺嵌入預測模型

研究背景：自監督的聯合嵌入預測模型易陷入表示崩解。核心技術：UR‑JEPA 以均勻 n‑可矩形性測度，透過高斯核平滑的 Carleson 方程與 Jones β 數字，取代 LeJEPA 的等向高斯正則化。結果顯示在 ImageNet‑10 上提升 0.83 個百分點，且種子變異降低約三成。