抽樣策略

深度分析

程式合成通用化突破：多樣化語法語意抽樣與搜尋式混合的 Transformer 研究

隨著大型轉換模型在程式合成上展現高效能，研究以算術文法構建可控測試環境，指出多樣化語意與語法抽樣可提升外部分布表現，且純轉換模型在語法外推時跌超30%。研究亦發現，隨算力指數增長，效能提升僅呈對數線性關係，暗示僅靠規模擴大無法突破外推瓶頸。