ChronoCon
ChronoCon:時間對比學習在少樣本不可逆疾病進程評估中的應用
研究指出醫學影像嚴重度評分成本高且易受讀者差異影響。ChronoCon 以患者掃描的時間順序作為對比學習依據,無需專家標籤即可學得疾病相關表徵。實驗在類風濕性關節炎X光片上顯示,僅使用五位患者的標註即可達到86% 的 ICC,顯著優於傳統全監督模型。
ChronoCon
研究指出醫學影像嚴重度評分成本高且易受讀者差異影響。ChronoCon 以患者掃描的時間順序作為對比學習依據,無需專家標籤即可學得疾病相關表徵。實驗在類風濕性關節炎X光片上顯示,僅使用五位患者的標註即可達到86% 的 ICC,顯著優於傳統全監督模型。
ECG-JEPA
研究聚焦於 12 導程式心電圖的自監督表徵學習。作者提出 ECG-JEPA,利用隱向量遮蔽預測並搭配跨模式注意機制 CroPA,免除原始波形重建。實驗顯示在多項下游任務上均創下最佳成績,顯示此架構具廣泛應用潛力。
圖形嵌入
大型平台的時間序列事件預測常忽略使用者-商品互動圖的全局結構。研究提出三種將圖形嵌入整合至自監督學習的策略:豐富事件嵌入、對齊客戶與圖形表示、加入結構前置任務。實驗證明此方法在金融與電商資料上提升最高 2.3% 的 AUC,圖密度影響策略選擇。
PINN
天文物理學迎來突破,研究人員開發出基於 PINN 的自監督物理資訊神經網路,能高效求解恆星結構方程。該方法擺脫了傳統 MESA 軟體的離散化限制,在處理大規模恆星族群時大幅降低計算成本,且精準度極高,為未來恆星演化模擬開闢新路徑。