速報
XFactors:弱監督式 VAE 實現高效可分離表徵學習
可分離表徵學習常因缺乏監督而難以捕捉真實資料語意。XFactors 以弱監督 VAE 結合資訊瓶頸,將表示拆解為殘差與因子子空間,利用 InfoNCE 使同因子緊密、不同因子分離,並以 KL 正則化維持結構。實驗顯示在多資料集上達到最佳可分離分數,且在 CelebA 上成功實現因子交換,具備良好可擴展性。
速報
可分離表徵學習常因缺乏監督而難以捕捉真實資料語意。XFactors 以弱監督 VAE 結合資訊瓶頸,將表示拆解為殘差與因子子空間,利用 InfoNCE 使同因子緊密、不同因子分離,並以 KL 正則化維持結構。實驗顯示在多資料集上達到最佳可分離分數,且在 CelebA 上成功實現因子交換,具備良好可擴展性。
深度分析
對比式表徵學習在自監督領域廣受關注,但其能否恢復潛在幾何結構仍未完全說明。研究提出「多樣性條件」作為正樣本抽樣的支援需求,並證明在全支援的von Mises‑Fisher設定下,最小化全局對比損失可恢復潛在空間至正交變換;若抽樣多樣性受限,非正交映射可能取得更低損失。作者進一步設計支援校正的InfoNCE,使等距恢復再次可行,實驗在合成資料與CIFAR‑10上驗證了理論預測。
深度分析
InfoNCE 作為對比學習的核心目標,長期以 softmax 形式實作,隱含一種對最高相似度樣本的分布假設。研究指出,當嵌入向量正規化後,硬負樣本的相似度分布趨向有上限,與 Gumbel(softmax)假設不相容。
深度分析
面對生活模擬遊戲的規模化NPC挑戰,研究提出pcsp:以凍結LLM嵌入加低秩投影,訓練單一共享RL策略並以InfoNCE保持軌跡一致性。在300人測試上,達到最高17×優於隨機、語意—行為Spearmanρ≈0.73,且推論比LLM基線快22×。