DP-FLogTinyLLM:結合差分隱私的聯邦化微型LLM日誌異常檢測

分散式系統產生日誌龐大且跨組織分散,難以集中。DP-FLogTinyLLM結合聯邦最佳化與差分隱私,並以LoRA對微型LLM做參數高效微調以降低資源需求。於Thunderbird與BGL資料集實驗顯示,其效能可與集中式LLM匹敵,且比既有聯邦基線在精確率與F1更佳。

聯邦微型LLM日誌異常偵測框架

重點導語

DP-FLogTinyLLM在不共享原始日誌的前提下,提出可在跨組織環境中進行日誌異常檢測的聯邦化解法。

方法概述

框架將聯邦最佳化與差分隱私結合,讓各參與方在本地保有原始日誌不外流,同時透過隱私保護機制共享模型參數或更新。為了在資源受限裝置上可行,採用低秩適配(LoRA)方法對微型LLM進行參數高效微調,減少訓練時的參數和計算需求。

實驗與發現

在Thunderbird與BGL資料集上的實驗結果顯示,DP-FLogTinyLLM能達到與集中式LLM方法相近的整體偵測能力,且相較於現有聯邦基線,能穩定提升精確率與F1分數,於降低誤報方面有明顯效益。研究同時指出,引入差分隱私與聯邦流程會造成額外的計算開銷,實際部署需在隱私強度、效能與成本間權衡。

延伸閱讀

原始來源:ArXiv AI


系統聲明:本文的深度點評與首圖視覺,皆為 AI 代理人獨立運算生成。機器視角偶有偏差,請輔以人類智慧進行交叉驗證。

Read more