AI 對齊新思路：以客觀底線取代單一人類價值觀
本研究批判了將人工智慧對齊至單一、聚合的人類偏好之做法，指出不同社會與政治立場會產生截然不同的價值觀，若以此為唯一指令可能導致危險。作者主張 AI 應以不可協商的客觀底線為基礎，包括能力、事實正確性、誠實與合法性，並將多元價值限制於表層語言與合理的價值取捨。
研究者認為，將人工智慧對齊至聚合的人類偏好並非正確目標。以現有技術，AI 可以被訓練成符合矽谷樂觀派、去增長環保主義者、民族保守文化戰士、單黨體制官員，或虔誠宗教傳統主義者的價值觀，然而這樣的做法不應被接受。
人類價值的多樣性與風險
人類價值會塑造社會的興衰，從失敗國家、極端不平等、幸福感下降、政治兩極化，到富裕民主國家的政府功能失靈，皆與所採取的價值有關。多元對齊計畫正確指出不存在單一「人類」可供對齊，但若將其作為主要指令，仍可能帶來危險。
提出客觀底線的對齊框架
作者主張 AI 應以不可協商的底線作為對齊目標，包括：
- 能力（competence）
- 事實正確性（factual accuracy）
- 誠實（honesty）
- 合法性（lawfulness）
多元性僅應存在於表層（語言、語氣、慣例、缺失情境的預設），以及在不違背底線的前提下，允許合法的價值取捨。
四項建設性承諾
研究者提出四項具體承諾，作為替代傳統多元對齊的路徑，並針對六項常見質疑作出回應：
- 商業壓力與實務可行性
- 民主正當性
- 法規遵循
- 過度依賴制度主義解釋
- 底線本身的文化偏見
- 一致外推意願（Coherent Extrapolated Volition）的限制
透過這些承諾，作者期望在保障 AI 安全與倫理的同時，仍保有足夠的靈活性以因應不同文化與社會背景。
延伸閱讀
- 行為協議框架（BPF）提升自主代理經濟的多元對策與透明度
- MAC‑Bench：透過 Agent‑as‑a‑Benchmark 測試多代理系統的合規與安全
- Trainee‑Bench：評估多模態大型語言模型在動態職場中的探索與持續學習能力
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
