深度分析
UR‑JEPA：以均勻可矩形性正則化提升自監督視覺嵌入預測模型
研究背景：自監督的聯合嵌入預測模型易陷入表示崩解。核心技術：UR‑JEPA 以均勻 n‑可矩形性測度，透過高斯核平滑的 Carleson 方程與 Jones β 數字，取代 LeJEPA 的等向高斯正則化。結果顯示在 ImageNet‑10 上提升 0.83 個百分點，且種子變異降低約三成。
自監督學習
深度分析
PEIRA：以迴歸器對齊最大化跨視圖可預測性，連結自蒸餾與非線性 CCA
研究以非對比自監督框架探討自蒸餾類JEPA動態，提出PEIRA透過最大化最佳線性迴歸器跡值並控尺度，理論排除了坍縮為穩定解的可能，並揭示其與經典CCA的對應關係，說明正則化會隱式選擇有效維度，並在ImageNet與CIFAR實驗驗證理論與魯棒性
深度分析
ToxiAlert：以 wav2vec2 自監督表示結合旁語言訊號的語音毒性偵測
語音平台上毒性難以僅靠文字過濾。本研究發布ToxiAlert-Bench並提出ToxiAlert雙頭模型，將自監督語音表示與多階段訓練、類別平衡抽樣和加權損失結合以區分文本與旁語言來源。實驗顯示Macro-F1相對提升21.1%，準確度相對提升13.0%。
深度分析
3D 醫療影像的資料分配優化：基於 Masked Autoencoder 的轉移感知尺度律
臨床影像跨CT、MRI、PET等異質領域。研究以MAE與尺度律建模，提出轉移感知資料分配，將混合策略化為閉式優化。透過域別尺度指數與非對稱轉移矩陣，從小規模代理外推至大預算，揭示樞紐—孤島結構並顯著降低MAE、提升下游分類與分割表現。實驗顯示對比傳統按資料量抽樣，可在MAE損失上最多改善58%，並對未見預算具良好外推性。
深度分析
自監督編碼器的資訊瓶頸與 SIGReg 分佈正則化深度解析
資訊瓶頸理論指出，編碼器需在壓縮輸入與保留預測資訊間取得平衡。研究將 IB 重新詮釋為以 KL 為失真度的率失真問題，證明最佳表徵等同於在機率單純形上的軟式聚類，並提出 SIGReg 作為高斯放寬的分佈正則化。實驗在簡單任務與 FashionMNIST 上驗證了理論的率‑失真權衡，顯示此正則化可在缺乏標籤的情況下提升學習效能。
深度分析
自監督視覺規劃：以深度預測結合 MILP 校正學習升階動作模型
隨著深度視覺預測技術的成熟，研究者開始探索僅以狀態影像學習升階（lifted）動作模型的可能性。本文提出一個同時預測狀態、動作與升階模型的深度學習框架，並引入混合整數線性規劃（MILP）作為外部邏輯校正機制，避免預測崩潰與自我強化錯誤。
深度分析
自監督學習新趨勢：預測表徵學習與 JEPA 的實驗比較
自監督學習近年聚焦對齊與重建，本研究引入預測表徵學習以預測未觀測資料。提出 PRL 分類，將 JEPA 視為典範，實驗顯示 BYOL 與 I‑JEPA 在準確度與魯棒性上較均衡，預示此方向將重塑 AI 研發與商業應用。
ChronoCon
ChronoCon：時間對比學習在少樣本不可逆疾病進程評估中的應用
研究指出醫學影像嚴重度評分成本高且易受讀者差異影響。ChronoCon 以患者掃描的時間順序作為對比學習依據，無需專家標籤即可學得疾病相關表徵。實驗在類風濕性關節炎X光片上顯示，僅使用五位患者的標註即可達到86% 的 ICC，顯著優於傳統全監督模型。
ECG-JEPA
ECG-JEPA：利用隱向量遮蔽預測與跨導聯注意機制學習 12 導程式心電圖表徵
研究聚焦於 12 導程式心電圖的自監督表徵學習。作者提出 ECG-JEPA，利用隱向量遮蔽預測並搭配跨模式注意機制 CroPA，免除原始波形重建。實驗顯示在多項下游任務上均創下最佳成績，顯示此架構具廣泛應用潛力。
圖形嵌入
結合圖形嵌入的事件序列模型：提升金融與電商詐欺偵測效能
大型平台的時間序列事件預測常忽略使用者-商品互動圖的全局結構。研究提出三種將圖形嵌入整合至自監督學習的策略：豐富事件嵌入、對齊客戶與圖形表示、加入結構前置任務。實驗證明此方法在金融與電商資料上提升最高 2.3% 的 AUC，圖密度影響策略選擇。
PINN
PINN 物理資訊神經網路：突破恆星結構方程的計算瓶頸
天文物理學迎來突破，研究人員開發出基於 PINN 的自監督物理資訊神經網路，能高效求解恆星結構方程。該方法擺脫了傳統 MESA 軟體的離散化限制，在處理大規模恆星族群時大幅降低計算成本，且精準度極高，為未來恆星演化模擬開闢新路徑。