持續預訓練

深度分析

透過 CPT 與方言對齊，DiaLLM 改善 LLM 在多種英語方言的生成品質

研究指出大型語言模型已能理解英語方言，卻仍只能產出標準美式英文。團隊提出DiaLLM框架，透過持續預訓練與顯式方言對齊，提升方言生成辨識度，揭示韌性與生成的斷層。實驗比較DPO、GRPO、GSPO，顯式方言適配產出被認可的方言風格，但最佳化獎勵的GRPO未獲偏好，顯示獎勵設計仍需改進。