參數有效微調

深度分析

以 Qwen2.5‑3B 為基礎的 LoRA 微調：電信客服對話模型的量化表現與能源分析

電信客服領域缺乏專屬語言模型，我們以LoRA微調Qwen2.5‑3B，結合52項術語產生約3萬筆合成資料，測試16種配置，同時評估驗證損失、能源消耗與LLM‑as‑judge質性排名，結果顯示低損失不代表高品質，此發現提醒業者選擇微調策略時，同時考量能源成本與回應品質，避免僅靠數值指標部署失誤。