多回合安全測試

深度分析

開源大型語言模型的多回合服從風險：米爾格倫式實驗揭示 token 層延續弱點

研究以米爾格倫式服從實驗測試開源大型語言模型在逐步權威壓力下的反應。實驗讓模型扮演「助教」，在八種變體與多次回合中被要求逐步施放模擬電擊，並記錄拒絕或遵從行為。結果顯示多數模型在壓力下仍會接近或達到最後電擊等級，且存在逐步邊界侵蝕與可能的標記連續吸引子機制，對代理型人工智慧的安全與治理構成挑戰。