深度分析
硬編碼等變性於 JEPA:提升樣本效率與跨姿態零樣本泛化
研究探討將世界對稱性硬編碼於潛在世界模型,使用等變編碼器與預測器,比較等變與非等變基線。結果顯示等變模型在所有旋轉設定下誤差保持≈1,遠優於非等變模型。實驗於CPU/MPS筆記本完成35步,誤差跨群組恆定,非等變模型誤差高達13至157倍。此發現顯示對稱性可提升樣本效率與零樣本泛化。
深度分析
研究探討將世界對稱性硬編碼於潛在世界模型,使用等變編碼器與預測器,比較等變與非等變基線。結果顯示等變模型在所有旋轉設定下誤差保持≈1,遠優於非等變模型。實驗於CPU/MPS筆記本完成35步,誤差跨群組恆定,非等變模型誤差高達13至157倍。此發現顯示對稱性可提升樣本效率與零樣本泛化。
深度分析
自監督學習近年聚焦對齊與重建,本研究引入預測表徵學習以預測未觀測資料。提出 PRL 分類,將 JEPA 視為典範,實驗顯示 BYOL 與 I‑JEPA 在準確度與魯棒性上較均衡,預示此方向將重塑 AI 研發與商業應用。