XFactors：弱監督式 VAE 實現高效可分離表徵學習

研究背景

可分離表徵學習旨在將資料的獨立變化因素映射到獨立的表示元件。純無監督方法在合成資料上表現良好，卻難以在真實資料中恢復語意因子；而監督式方法則因依賴對抗目標或輔助分類器，穩定性差且難以擴展至大量屬性。

XFactors 框架概述

XFactors 以弱監督變分自編碼器（VAE）為基礎，採用可分離資訊瓶頸（Disentangled Information Bottleneck）觀點，將潛在表示分為殘差子空間 𝒮 與因子專屬子空間 𝒯₁,…,𝒯_K。

每個目標因子透過對比式監督（InfoNCE）編碼至其對應的 𝒯_i：相同因子值的潛在向量被拉近，不同值的則被推遠。同步的 KL 正則化則對 𝒮 及聚合的因子子空間施加高斯結構，讓非目標因子在無額外監督下仍保持有序，避免了對抗訓練與分類器的需求。

實驗結果

在多個公開資料集上，XFactors 在保持超參數不變的情況下，取得了目前最佳的可分離指標分數，且在相應子空間中呈現一致的因子對齊，支援以潛在向量替換的方式進行受控因子交換。

此外，研究還驗證了模型隨著潛在容量增加而正確擴展，並在真實影像資料集 CelebA 上展示了可視化的因子交換效果，證明其在實務應用中的可行性。

程式碼與資源

相關程式碼已於 GitHub 開源，供研究社群進一步探索與驗證。

延伸閱讀

• AI代理人自動化對齊的風險：如何導致誤導性整體安全評估（OSA）
• 因果稽核下的 LLM 安全與地緣政治：PGM 與 do 運算子的區域化對齊評估
• 邊界失效與大型語言模型(LLM)對齊：以三條件框架界定討好行為

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。