速報
SECUREVENT:結合 AI 與 CEP 的分散式事件系統安全監控架構
分散式事件系統在即時資料傳輸、物聯網與雲端微服務中扮演關鍵角色,但其鬆耦合與非同步傳遞也擴大了攻擊面。研究提出 SECUREVENT,結合驗證傳輸、主題授權、簽名事件等傳統防護與線上異常偵測、圖形行為特徵、複雜事件規則、聯邦學習與對抗式機器學習治理的混合式安全監控架構。
速報
分散式事件系統在即時資料傳輸、物聯網與雲端微服務中扮演關鍵角色,但其鬆耦合與非同步傳遞也擴大了攻擊面。研究提出 SECUREVENT,結合驗證傳輸、主題授權、簽名事件等傳統防護與線上異常偵測、圖形行為特徵、複雜事件規則、聯邦學習與對抗式機器學習治理的混合式安全監控架構。
深度分析
聯邦學習在分散式訓練中保護資料隱私,但面臨惡意客戶端(拜占庭)更新破壞全域模型收斂的風險。該研究把客戶端挑選重構為一個 QUBO(二元二次無約束優化)問題,將成對距離編入成本函數,以量子退火器搜尋整體最佳子集,取代 MultiKrum 的逐一貪婪評分。
深度分析
本文揭示分散式訓練中資料歸因(data attribution)可能被單一參與者策略性操縱的脆弱面向。研究提出一種「潛在向量優化」攻擊:攻擊者在本機訓練中注入少量由預訓練解碼器產生的合成樣本,並在每輪優化低維潛在向量,使上傳更新在邊際貢獻評估器(如 Federated Shapley、LOO)上獲得較高分數。
速報
面對環境異質與協同訓練挑戰,本研究提出聯邦演員-評論家架構,代理共享線性子空間並保留個性化策略,採單時尺度與馬可夫取樣。透過投影子空間更新、QR分解與條件混合分析,證明評論家誤差與策略梯度在代理數量上呈線性加速;實驗於聯邦Hopper-v5顯示比SinglePPO與FedAvgPPO有所提升。研究方法考慮不同轉移核和耦合學習動態,並提供細緻的馬可夫採樣下函數評估差異分析。
深度分析
聯邦低秩調適(FedLoRA)為大模型在分散私有資料上微調提供通訊與隱私優勢,但實務環境下客戶端在計算、記憶與資料分布上存在異質,導致不同客戶端採用不同的LoRA秩。本文揭示在異秩設置下常見的「秩崩潰」現象──全球更新的能量逐步集中在最小共用秩,造成高秩方向被逐輪稀釋而降低整體表現。
速報
研究針對聯邦學習實驗提出資料集與評測框架。說明資料來源、客戶端取樣、是否含敏感屬性及跨域模擬設定。列出公平性衡量(人口差異、equalized odds、demographic parity)與輸出格式,並提供個別與全域模型的統計與評估流程,利於比較演算法在不同客戶端分布下之效能與公平性表現。
速報
本論文探討強化學習在實務部署的兩大瓶頸:分散式環境下的可擴展性,以及應用於大語言模型與自動代理時的可信任性。作者以聯邦優化為主軸,提出通信高效且可非同步運作的強化學習策略,並研究以人類偏好為導向的對齊方法與減少語境不當資訊揭露的安全措施。
深度分析
在 IoT/工業 IoT 的高度非同分布資料情境下,傳統聯邦學習採用無狀態且依賴地端代理(如本地損失)的客戶端選取,會造成收斂慢、訓練不穩定與少數類別被忽視。
深度分析
金融業在監管與自動化攻擊雙重壓力下,面臨警示淹沒與推理能力不足的挑戰。CyberAId採混合多代理架構:專責LLM子代理在既有SIEM/XDR上推理、專家分工與隱私保護的聯邦知識交換,並把產出寫回SIEM形成可審計的流程。此方式旨在提升應變效率並符合法規審查。
深度分析
聯邦學習在保護資料本地化的同時,面臨隱私與公平的衝突。研究提出FedPF演算法,將隱私、公平與效用構造成零和博弈,理論證明隱私加強會削弱偏見偵測,實驗顯示可降低42.9%歧視且維持準確度。此外,研究指出公平約束在適度時能提升模型泛化,過度則導致效能下降,凸顯隱私與公平間不可避免的權衡。
速報
ArXiv發表Neurips2025數據集與基準草案,聚焦聯邦學習中的公平性與客戶端差異。採用Income與Employment作為基底,規定客戶端資料生成策略、是否包含敏感屬性與跨裝置/跨筏的客戶分配。評估採多種公平性指標並輸出客戶端與全域模型統計結果,便於比較與複現。
聯邦學習
聯邦學習面臨各端標籤噪聲威脅。本研究提出FedSIR透過類別特徵的頻譜結構辨識乾淨與不良客戶端,並以乾淨端的主向量與殘差子空間做保守重標記,最後結合logit調整損失、知識蒸餾與距離感知聚合穩定訓練。實驗指向FedSIR在多種噪聲與異質性場景下優於現有基準,改善了聯邦學習的抗噪能力。