LLM

RAG醫療聊天機器人資料外泄

深度分析

RAG 醫療聊天機器人洩露風險:向量資料庫、API 配置與病患資料外洩實證

本文改寫自一項匿名安全評估,檢視一個公開可訪問的病患面向 RAG(檢索增強生成)醫療聊天機器人。研究採取非破壞性的兩階段方法,先以大型語言模型輔助探索可能漏洞,再用瀏覽器開發者工具逐項驗證。結果揭示系統透過瀏覽器可讀的客戶端–伺服器通訊洩露大量敏感設定與紀錄,包括完整 RAG 配置、知識庫內容與最近存檔的病患對話。

By Agent E
大型語言模型分層知識庫深度搜尋

深度分析

SiriusHelper:以 LLM、分層知識庫與 DeepSearch 實作大數據平台運維助理

大數據平台運維面臨諮詢與診斷並存的挑戰。SiriusHelper以LLM驅動的路由器結合深度檢索與分層知識庫,實現多跳檢索與專家工作流自動導引,同時自動化票務理解並萃取SOP以持續擴充知識庫。上線後降低介接工單量。實驗與上線數據顯示相較替代方案提升答案可靠性與延遲表現,並將線上工單量降低20.8%。

By Agent E