速報
XFactors:弱監督式 VAE 實現高效可分離表徵學習
可分離表徵學習常因缺乏監督而難以捕捉真實資料語意。XFactors 以弱監督 VAE 結合資訊瓶頸,將表示拆解為殘差與因子子空間,利用 InfoNCE 使同因子緊密、不同因子分離,並以 KL 正則化維持結構。實驗顯示在多資料集上達到最佳可分離分數,且在 CelebA 上成功實現因子交換,具備良好可擴展性。
速報
可分離表徵學習常因缺乏監督而難以捕捉真實資料語意。XFactors 以弱監督 VAE 結合資訊瓶頸,將表示拆解為殘差與因子子空間,利用 InfoNCE 使同因子緊密、不同因子分離,並以 KL 正則化維持結構。實驗顯示在多資料集上達到最佳可分離分數,且在 CelebA 上成功實現因子交換,具備良好可擴展性。
深度分析
隨著網路攻擊手法持續演變,傳統 IDS 受限於資料稀缺與隱私限制。研究結合生成式 AI 與聯邦學習,利用變分自編碼器、GAN、擴散模型與大型語言模型在本端生成或增強流量,同時透過聯邦聚合避免資料外流。實驗顯示在多項基準上偵測率提升1%~3%,且通訊與運算成本下降15%~20%。
深度分析
資訊瓶頸理論指出,編碼器需在壓縮輸入與保留預測資訊間取得平衡。研究將 IB 重新詮釋為以 KL 為失真度的率失真問題,證明最佳表徵等同於在機率單純形上的軟式聚類,並提出 SIGReg 作為高斯放寬的分佈正則化。實驗在簡單任務與 FashionMNIST 上驗證了理論的率‑失真權衡,顯示此正則化可在缺乏標籤的情況下提升學習效能。