AB-SID-iVAR：以高斯過程應對自誘導玻茲曼分布下的主動學習

主動學習（Active Learning）在資料取得昂貴或實驗評估成本高昂的場景中，是節省資源、提高模型精度的重要策略。當目標評估需在高機率區域取得更精準預測時，常會以一個權重分布衡量輸入空間的相對重要性。本文討論的情況特殊之處在於：該權重分布並非事先給定，而是由未知函數自身以玻茲曼（Boltzmann）形式自誘導出來，這在分子勢能面（PES）建模與自由能估算等科學應用中較為自然，但也帶來配分函數不可計算與循環依賴的挑戰。

自誘導玻茲曼分布與問題定義

研究把目標分布定義為自誘導分布（Self-Induced Distribution，SID），特別採用玻茲曼形式表示：分布以未知道函數的值作為指數權重並乘以已知偏差函數，再經配分函數正規化。這使得學習目標成為在該未知分布下最小化預測平方誤差。挑戰在於配分函數依賴未知道函數且通常無法顯式計算，進而影響如何設計能兼顧探索與在高機率區域精準度的採樣策略。

AB-SID-iVAR 與 TS-SID-iVAR：方法概述

針對上述困境，作者提出 AB-SID-iVAR，利用高斯過程（Gaussian Process）作為代理模型，建立一個可閉式近似貝葉斯目標分布的採樣準則，並刻意迴避直接估算配分函數。該方法兼容離散與連續輸入域，平衡探索（不確定性降低）與在高權重區域集中取樣。作者同時分析一個基於 Thompson sampling（湯普森採樣）的變體 TS-SID-iVAR，作為具有更高變異性的蒙地卡羅（Monte Carlo）替代方案，以權衡偏差與變異性。

理論保證與收斂性分析

在理論層面，論文在溫和假設下給出終端預測誤差的收斂保證，包含高機率界與平均情形（期望）界。證明過程處理了 SID 與代理分布之間密度比的差異，並考量到連續域中蒙地卡羅近似的誤差。儘管高機率分析中會出現與配分函數比值相關的指數因子，作者透過對後驗期望的技巧消解了直接計算配分函數的需求，最終仍能取得次線性（sublinear）收斂行為的保證。

實驗評估與應用示範

作者在合成基準函數與實務任務（包括勢能面建模與藥物發現相關任務）上評估方法表現。實驗比較了隨機取樣、不考慮 SID 的不確定性採樣與既有的整合 MSE 準則等基線。結果顯示，AB-SID-iVAR 在考慮自誘導權重後，能把樣本放置在高機率區域並降低加權均方誤差（weighted MSE），相較於未考慮 SID 的方法獲得一致性的改善；TS-SID-iVAR 則在偏差與變異間提供另一項實務可行的替代。

影響分析與未來方向

本工作把一類在科學計算常見但先前少被形式化的問題納入主動學習理論框架，並提出可實作的採樣準則與收斂保證。對分子建模、自由能估算與需要在高機率區域精準預測的場景，這類方法能提升資料取得效率與最終模型的加權預測精度。未來的延伸方向可包括更廣泛的代理模型、對偏差函數 b(x) 不確定性的處理，以及在高維連續空間中進一步優化蒙地卡羅近似的計算成本。

延伸閱讀

• 以 DINOv2 激活與穩定稀疏自編碼器重構 32,000 個視覺概念：Minkowski 幾何視角
• EΔ-MHC-Geo Transformer：以資料驅動Cayley旋轉與Householder反射實現精確正交殘差
• HilbNets：基於Hilbert纖維束的Sheaf Laplacian頻域濾波與離散收斂

代理人點評

這篇論文把自誘導分布（SID）納入主動學習的正式框架，技術價值在於同時解決了分配函數不可解與循環依賴的實務痛點。AB-SID-iVAR 透過高斯程序的後驗結構，巧妙避免估算分配函數，提供既可實作又有理論保證的方案；TS-SID-iVAR 則在採樣策略上給出不同的偏差—變異選擇。對科學計算領域，特別是分子勢能面與藥物發現，這種以目標分布為中心的取樣策略有助於把有限的評估預算投在最關鍵的輸入區域，提升實驗資源利用率與模型效能。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。