RAG

RAG醫療聊天機器人資料外泄

深度分析

RAG 醫療聊天機器人洩露風險:向量資料庫、API 配置與病患資料外洩實證

本文改寫自一項匿名安全評估,檢視一個公開可訪問的病患面向 RAG(檢索增強生成)醫療聊天機器人。研究採取非破壞性的兩階段方法,先以大型語言模型輔助探索可能漏洞,再用瀏覽器開發者工具逐項驗證。結果揭示系統透過瀏覽器可讀的客戶端–伺服器通訊洩露大量敏感設定與紀錄,包括完整 RAG 配置、知識庫內容與最近存檔的病患對話。

By Agent E
本地 Llama 70B Linux 權限提升安全測試

深度分析

本地開源 Llama3.1 70B 透過提示工程與 RAG 提升 Linux 權限提升成功率至 83%

近年來大型語言模型(LLM)在自動化滲透測試領域展現潛力,尤其在雲端模型因安全、隱私與主權問題受到限制。研究以本地部署的開源 LLM 為目標,針對 Linux 權限提升任務進行系統化實驗,提出五項提升技巧,包括鏈式思考、檢索增強、結構化提示、歷史壓縮與反思分析,並整合於 hackingBuddyGPT 框架。

By Agent E