AI 偏好治理

深度分析

「建構式對齊」：以控制論模型治理 AI 偏好動態的長期演變

隨著AI系統變得更持久且個人化，研究提出「建構式對齊」框架，將偏好視為層疊、動態的狀態，並以控制論方式治理AI對偏好的影響，旨在確保價值走向一致且避免操縱。研究指出，若未妥善治理，AI可能重塑使用者注意力與價值觀，導致長期偏好被外部力量左右；相對地，透過設計交互結構與透明度，可將影響限制在提升自主性的範圍內。