Six Llamas：用 LoRA 微調 Meta‑Llama‑3.1 比較宗教語料下的倫理推理
研究以Meta‑Llama‑3.1‑8B為基底，建六款模型檢視宗教文本微調後的倫理推理差異。採LoRA分別在基督教、伊斯蘭、猶太教、印度教與佛教經典上微調，使用17項倫理提示與十檔溫度取樣測量回應一致性。結果指出微調產生傳統化倫理傾向，基礎模型整體一致性最高。
Six Llamas：宗教語料下的倫理推理比較
研究發現 LoRA 微調會讓模型呈現與其宗教訓練傳統一致的倫理傾向；在某些題目仍保持高度穩定，但在爭議領域於高溫度下分歧放大。
本研究以 Meta‑Llama‑3.1‑8B 為基底，構建六款模型：一個未改動的控制模型，與五個分別以基督教、伊斯蘭、猶太教、印度教、佛教經典用 LoRA 微調的變體。實驗以 17 項標準化倫理提示，涵蓋道德困境、博弈情境、公共政策與道德心理評估，並在十檔溫度下取樣以檢驗穩健性與可復現性。
分析包括回應一致性、成對模型同意率、溫度敏感度系數及運行穩定性。主要發現為：LoRA 微調的模型在倫理選擇上顯示系統性差異，這些差異與各宗教傳統的道德邏輯相符；在高共識題目（例如電車難題）各模型與溫度皆達到 100% 一致性，但在道德上有爭議的領域，隨著溫度上升傳統別間的分歧會增強。基礎模型呈現最高的整體回應一致性（平均 88.3%），顯示微調同時帶來傳統性訊號與增加的取樣敏感性。研究提出以差別訓練模型作為比較文化與倫理分析工具的示範，並列出可供驗證的準則與未來擴展方向。
延伸閱讀
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
