對齊研究

速報

ECASA 框架登場：AI 安全研究亟需獨立驗證與審計機制

主流 AI 研究追求能力成長，對低失敗率容忍度高；但 AI 安全與對齊研究目標不同，必須確保災難性失敗永不發生。本文從能力輪廓與風險輪廓兩個獨立軸線分析，指出當前主流知識實踐在兩方面都不足。透過預先註冊的書目計量基準，研究團隊辨識出五大關鍵缺口，包括幾乎不存在制度化獨立驗證。