QLoRA 微調 7B Mistral 模型：免費 GPU 兩卡交接與品質警示
本研究在免費 tier 的 Kaggle、Colab GPU 上，以 QLoRA 方式微調 7B Mistral 模型，僅傳遞 41.9M LoRA 適配器於兩台 16 GB 顯卡間。實驗發現模型與訓練分布相似度提升，但在諮詢品質與事實正確性上表現較差，錯誤主要來自合成資料流程，而非適配器交接方法。
在資源受限的環境下，微調 7B 大型語言模型仍具吸引力，但多輪訓練常超過免費 GPU（Kaggle、Colab）的時限。研究團隊提出一套實作流程：使用 QLoRA（4 位元 NF4、LoRA rank 16）對 Mistral-7B-Instruct-v0.3 進行三輪微調，僅儲存 LoRA 適配器（41.9M 參數）作為 checkpoint，然後在第二台 GPU（Tesla T4）上恢復訓練。
適配器交接的實務要點
此方法不需要傳遞 optimizer 與 scheduler 狀態，唯一限制為每步所需的顯存與單次執行時長。因此，只要每步 VRAM 能容納模型與 LoRA，便可在兩台 16 GB 顯卡間完成微調。
評估結果與警示
在盲測比較中，微調模型在與合成訓練分布的相似度上提升（BERTScore F1 +0.063），但在諮詢品質上表現較差。LLM‑as‑judge 評估顯示，僅 18% 的提示偏好微調模型，而基礎模型獲 46% 的偏好。事實性審核發現，微調模型在政策敏感議題上出現四筆自信錯誤，基礎模型則無此情況。
進一步審核訓練資料發現，這些錯誤已存在於 Gemini 生成的合成答案中，隨機抽樣審核亦顯示 28%–40% 的回應含有可驗證錯誤。因而認為錯誤主要源自合成資料管線，而非 LoRA 適配器交接方式。
開源資源
研究團隊已釋出資料集、LoRA 適配器、跨 GPU notebook 以及完整評估框架，確保任何使用單卡 16 GB GPU 的研究者皆能復現結果。
延伸閱讀
- Stable Audio 3 技術剖析：SAME 自編碼器、變長潛在擴散與對抗式後訓練
- 零樣本語音克隆呈現風格轉移：實驗證實同質化與信任效應
- RIR（房間脈衝響應）分解：早期反射在單通道說話者距離估計中的關鍵性
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
