深度分析
LoRA‑MINT:低階適應下 LLM 訓練資料審計的高精度成員推斷方法
隨著大型語言模型透過LoRA進行領域微調,訓練資料的隱私風險受到關注。研究提出LoRA‑MINT,利用模型困惑度與合成樣本的參考分布比較,判斷樣本是否屬於訓練集。實驗在四種模型與三套基準資料上達到0.77~0.92的精確度,展示此方法在資料審計與AI合規上的可行性。
深度分析
隨著大型語言模型透過LoRA進行領域微調,訓練資料的隱私風險受到關注。研究提出LoRA‑MINT,利用模型困惑度與合成樣本的參考分布比較,判斷樣本是否屬於訓練集。實驗在四種模型與三套基準資料上達到0.77~0.92的精確度,展示此方法在資料審計與AI合規上的可行性。
深度分析
隨著大型語言模型代理人需要持續寫入記憶,傳統的四種衝突解決策略未宣告隔離層級,導致寫入時異常。研究提出Toki,將這四策略統一為雙時態運算子,並加入審計列保留失敗事實。實驗顯示Toki同時排除重放不一致、信念漂移與審計抹除三大缺陷,且保留判決器於寫入路徑。