深度分析
CAKE 邊界搜尋蒸餾於自編碼器失敗:理論與實證分析
本研究探討無資料知識蒸餾方法 CAKE(對比溯因知識萃取)能否應用於自編碼器這類瓶頸生成架構。作者將 MNIST 連續重建任務重新表述為每個像素的分類問題,使解碼器輸出分類 logits,從而讓 CAKE 可直接套用。
深度分析
本研究探討無資料知識蒸餾方法 CAKE(對比溯因知識萃取)能否應用於自編碼器這類瓶頸生成架構。作者將 MNIST 連續重建任務重新表述為每個像素的分類問題,使解碼器輸出分類 logits,從而讓 CAKE 可直接套用。
深度分析
生成式模型逐漸能產出與真人無異的影像,導致難以分辨樣本是訓練成員還是模型自行生成。研究提出成員vs生成推論(MGI)任務,並開發DataCircuitBreaker三階段方法,結合自編碼器與潛在生成器辨識,成功區分真實訓練資料與近似複製的生成樣本,提升隱私審計與模型迭代安全。
頻率分離
面對日益普及的流量加密,傳統依賴載荷內容的異常偵測失去作用。論文發現加密流量在頻域呈現全頻(low+high)特性,而主流重建式模型具備低頻偏好,造成「光譜不匹配」使偵測表現受限。為此,研究提出FreeUp框架:先將流量影像拆為低頻與高頻兩條分支獨立學習,再以基於證據的不確定性機制動態融合分支輸出,得到更穩健的異常評分。