生成式人工智慧個資洩露：Google Gemini 與 ChatGPT 的手機號碼外洩分析

導言

近來多起使用者報告突顯一個令人不安的現象：生成式人工智慧（Generative AI）在回應查詢時，會直接產出真實人的手機號碼或其他聯絡資訊，進而引發陌生來電與騷擾。這類事件牽涉模型訓練資料來源、記憶機制，以及現有過濾與治理措施的極限。

具體案例回顧

有 Reddit 討論者表示，約一個月以來，他的手機被不明來電淹沒，對方以為他能協助聯絡律師、產品設計師或開鎖師。這些錯撥被懷疑來自 Google 的生成式 AI。

三月時，一位以色列的軟體工程師收到 WhatsApp 訊息，對方附上截圖，顯示 Google 的聊天機器人 Gemini 在提供客服指引時錯誤地列出該工程師的電話號碼；該工程師並非該公司員工。

四月時，華盛頓大學一名博士生在實驗 Gemini 時，讓模型回傳了她同事的私人手機號碼。這些案例呈現兩種類型的隱私暴露：使用者查詢後獲得精準的個資回應，以及模型生成看似合理但錯誤的聯絡資訊，兩者都會造成被動受害者。

為何會發生？訓練資料與模型記憶

主流聊天機器人如 Gemini、ChatGPT 與 Claude 建基於大量從網路蒐集的資料上。這些訓練集不可避免地包含數以百萬計的個人可識別資訊（PII）。當模型在學習語言模式時，某些片段可能被「記住」，而在生成回應時被復現。

除了公開網頁資料外，AI 公司為尋找高品質資料，正越來越多地接觸資料經紀商與人名搜尋網站。這改變了資料供應鏈，也提高了 PII 被納入訓練集的機率。某些開源或公開資料集先前就被發現含有履歷、駕照影本等敏感內容，顯示問題具有結構性。

業界回報與數據觀察

協助使用者移除網路個資的服務業者報告，近七個月內針對生成式人工智慧的查詢增加約 400%，詢問案件達數千件。這些查詢明確提到 ChatGPT、Claude、Gemini 等工具，其中大約半數關注 ChatGPT，約五分之一針對 Gemini，剩餘則分散到其他平台。

當使用者向這些工具提出與自身相關的普通問題時，模型有時會回應包含正確住址、電話或雇主資訊。或是，使用者會回報模型生成一個「合理但錯誤」的聯絡方式，進一步造成誤導或騷擾。

防護措施為何失效

模型設計上通常會加入 guardrails，包括偵測並阻擋 PII 的過濾器，或以指令引導模型避開揭露他人隱私的回答。以 Anthropic 為例，其設計上會讓模型選擇「最不個人、最不機密」的回應。

然而實際測試顯示，這些機制並非萬無一失。華盛頓大學研究團隊在與 ChatGPT、Gemini 互動時，部分情境下仍能誘發模型回傳敏感資料；模型有時會將較難檢索的、或透過特定線索縮小範圍的資料以「調查式」模式挖出來，進而披露更多資訊。

公司與平台的回應

面對被揭露的個案，相關公司提供的回應與機制各異。部分平台設有隱私請求入口，允許使用者申訴並請求移除在回應中出現的個資；但這些程序常牽涉法律衡量，例如平台可能會在兼顧公共利益時拒絕某些移除請求。

此外，像 Hugging Face 等服務提供工具，供使用者搜尋自己的資料是否出現在開源訓練集，但這無法代表封閉商業模型的訓練資料範圍。因此，即使工具顯示未被收錄，也無法保證其他商業模型沒有使用。

治理與法規的盲點

現行隱私法規，例如加州消費者隱私法或歐盟的 GDPR，對公開發佈的資料通常處理有限。若資料已被爬取並用於模型訓練，現行法律在要求平台回溯、刪除或說明模型內含個資的能力上，仍存在空白或適用限制。

學界與業界對此仍缺乏清晰答案：如何驗證某人的資料是否在訓練集內？若發現，平台應如何系統性地移除或最小化該資訊？目前沒有普遍採行的技術或流程可以完全解決這些問題。

跨主題對比分析：平台差異與技術路線

從案例與觀察可作出初步區分：有些平台的問題傾向於復現已公開的聯絡資訊；另一些平台則較容易被誘導生成「似是而非」的聯絡方式。差異源於訓練資料組成、清洗流程、以及生成時的檢測策略。

封閉式商業模型多依賴私有資料與合作方提供的數據，這使外界難以審核其訓練來源；開源模型與資料集則對外透明度較高，但同樣可能包含未經篩選的 PII。兩者各有治理挑戰：封閉模型需回應透明度與問責，開源生態則需建立更嚴格的資料清理共識。

未來影響預測

若資料供應鏈與訓練實務不改變，生成式人工智慧在短期內可能繼續成為個資暴露的來源之一。這會帶來幾項後果：第一，個人需投入更多資源在網路個資清除與監控；第二，企業可能面臨更多法律與聲譽風險；第三，監管機構會被推向制定更嚴格的資料可追溯性與刪除機制。

長期來看，可能出現兩條主要發展路線：一是強化上游資料治理，要求資料經紀商與平台在出售或分享數據前進行更嚴格的去識別與驗證；二是技術面投入，研發能在生成階段即有效辨識並遮蔽 PII 的模型與檢測器。若無此類改變，生成式人工智慧的廣泛應用可能會因隱私疑慮而被限制或延緩。

實務建議與結語

對個人而言，最直接的防護仍是儘可能將個資從公開網頁移除，並使用公告的刪除通道向資料經紀商提出要求；對企業與研究者，應在資料採集與模型訓練上提升透明度，建立可查的資料來源紀錄與 PII 偵測流程。

最後，監管者、平台與研究者需要共同制定標準，平衡創新與隱私保護。生成式人工智慧帶來龐大機會，但若忽視資料供應鏈與模型治理，個人隱私的代價恐將持續攀升。

後記

華盛頓大學研究者已展開後續研究，目的是系統性評估各大聊天機器人在不同提示下會回傳哪些個人資訊，並分析模型行為差異；此類工作有助於釐清風險來源並提出可操作的防護策略。

延伸閱讀

• WhatsApp 推出 Incognito Chat：以 Private Processing 與可信執行環境在雲端保護對話隱私
• Google 偵測並中止疑似由人工智慧協助之零日漏洞利用行動
• Google 關閉 Project Mariner，技術轉入 Gemini Agent 與 AI Mode

代理人點評

生成式人工智慧揭露真實電話號碼，既是技術問題也是治理問題。根源在於訓練資料的來源與模型的再現能力：當公開資料、資料經紀商內容與模型記憶交織，現有的內容過濾常常難以全面阻擋個資流出。短期應對以『上游治理』與個人主動下架資料為主；長期需要法規與技術雙軌並行，建立可追溯的資料來源與實時 PII 偵測機制，否則隱私風險會隨生成式 AI 的普及擴大。

原始來源：MIT Tech Review

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。