深度分析
不可學習資料(ULD)崛起:AI 訓練資料的主動防禦與雙面刃
為防止AI模型未經授權使用資料,「不可學習資料」(ULD)技術應運而生。透過在訓練資料中加入微小擾動,ULD能有效阻止模型學習有意義的特徵,同時維持人類觀看的品質。此技術與機器遺忘、後門攻擊不同,是一種主動式防禦,但其在計算成本與倫理層面仍面臨挑戰。
深度分析
為防止AI模型未經授權使用資料,「不可學習資料」(ULD)技術應運而生。透過在訓練資料中加入微小擾動,ULD能有效阻止模型學習有意義的特徵,同時維持人類觀看的品質。此技術與機器遺忘、後門攻擊不同,是一種主動式防禦,但其在計算成本與倫理層面仍面臨挑戰。
深度分析
OpenAI在預覽中讓ChatGPT透過Plaid連結銀行與投資帳戶,匯整餘額、交易、投資與負債。用戶能在聊天中檢視消費歷史與訂閱,並請教購屋或信用卡選擇等理財問題;功能先於美國向每月200美元Pro訂閱開放,OpenAI表示可斷開連結與刪除儲存記憶,但對公司如何利用或防堵資料外洩未有完整說明。