深度分析
RapTB 與 SubM 雙機制破解 GFlowNet 模式崩潰:強化前綴信用分配與多樣性重播
Generative Flow Networks(GFlowNet)在微調大型語言模型時,常因前綴崩潰與長度偏誤導致模式崩潰。研究團隊提出 Rooted absorbed prefix Trajectory Balance(RapTB),透過根節點錨定與吸收後綴回傳,強化前綴層級的學習訊號;
深度分析
Generative Flow Networks(GFlowNet)在微調大型語言模型時,常因前綴崩潰與長度偏誤導致模式崩潰。研究團隊提出 Rooted absorbed prefix Trajectory Balance(RapTB),透過根節點錨定與吸收後綴回傳,強化前綴層級的學習訊號;
深度分析
GFlowNets作為未正規化分布抽樣模型,傳統訓練以最小化對數平方差為主。研究比較四種散度度量,並設計高效梯度估計與控制變異方法。實驗證明新方法加速收斂,提升訓練效能。