檢索增強式生成

深度分析

「檢索增強式文字生成音樂」面臨字幕投毒完整性攻擊的風險分析

檢索增強式文字生成音樂系統依賴音樂字幕資料庫，研究提出雙層字幕投毒手法，在保持檢索相似度的同時植入低階聲音描述，只需少量投毒條目即可使生成音樂偏離使用者意圖，對創意工作流程與平台安全構成實質威脅。此攻擊揭示創意AI的完整性風險。並可能導致平台聲譽受損。