生成模型安全

速報

SceneSplit：以分場景黑盒攻擊揭露Text-to-Video安全弱點

文字轉影片快速增長帶來安全風險。研究提出SceneSplit，將有害敘事拆成多個各自無害的場景，藉場景序列收窄生成空間並導向不安全結果。配合迭代場景操作與策略庫以繞過過濾器。評估在多款T2V模型上顯示攻擊成功率顯著提升。此結果提示現行安全機制需重新審視與改進。