提示反轉攻擊

深度分析

PANOPTICON 資料集問世：67,718 組提示詞成 LLM 推論階段隱私漏洞新標竿

大型語言模型在推論階段需處理大量個人可識別資訊，但缺乏公開資料集量化風險。PANOPTICON 資料集以合成方式產生 67,718 條含 PII 的提示詞，涵蓋醫療、金融等六大類別，並透過提示反轉攻擊案例驗證其衡量隱私外洩的實用性，成為首個推論階段 PII 隱私基準。