自蒸餾

深度分析

PEIRA：以迴歸器對齊最大化跨視圖可預測性，連結自蒸餾與非線性 CCA

研究以非對比自監督框架探討自蒸餾類JEPA動態，提出PEIRA透過最大化最佳線性迴歸器跡值並控尺度，理論排除了坍縮為穩定解的可能，並揭示其與經典CCA的對應關係，說明正則化會隱式選擇有效維度，並在ImageNet與CIFAR實驗驗證理論與魯棒性