用輸入詞嵌入操控對齊模型：以零階梯度估計降低回應有害性

重點速覽

研究指出可以透過優化輸入詞嵌入，改變對齊語言模型在拒絕或順從之間的輸出行為，以降低生成回應的語意有害性。

方法與流程

作者採用黑盒文字審查API作為有害性評估器，對輸入詞嵌入進行零階梯度估計，藉此估算修改嵌入對最終生成結果的影響。接著對嵌入向量執行梯度下降，並以子詞層級（sub-lexical）修改輸入表示，目標是最小化模型回應的語意有害性，而非僅做表層詞彙過濾。

實驗結果與意涵

在標準安全基準上的實驗顯示，該方法可將所有被標記為有害的回應中和。這代表即便面對產生拒絕或順從的二元化輸出分佈，透過輸入嵌入的微調仍能有效影響模型行為。研究強調，輸入詞嵌入可作為一種可行且具操作性的控制變數，對提升對齊模型的安全性與部署防護具有實務參考價值。

延伸閱讀

• Sahm基準—評估阿拉伯語金融推理、伊斯蘭法合規與因果推理能力
• MORPHOGEN：以 GENFORM 衡量多語言大型模型的語法性別形態能力
• 以大型語言模型評估醫療回應完整性：方法、失敗模式與臨床限制

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。