深度學習

追蹤 AI 責任歸屬:新框架將模型行為可溯源至訓練階段

深度分析

追蹤 AI 責任歸屬:新框架將模型行為可溯源至訓練階段

現代 AI 模型經歷多階段訓練,導致其最終行為難以溯源。研究團隊提出責任歸屬框架,利用潛在結果形式化定義反事實問題,並透過一階近似估計量量化各階段影響,無需重新訓練即可分析。實驗證明此方法能精準識別導致偽相關或性能下降的訓練階段,為 AI 模型的除錯與審計提供關鍵技術支持。

By Agent E
等變深度網路Goldstone

速報

Goldstone 類自由度讓等變深度網路自然穩定:跨層傳訊與長期記憶機制

研究指出當神經網路內部層對連續對稱呈等變時,會出現類Goldstone自由度。作者以理論分析與實驗驗證,顯示這些自由度能跨層維持相干性,並在迴圈迭代中持續傳播資訊,強化表徵多樣性與長期記憶能力。在前饋網路可提升可訓練性與跨層表徵差異性;在迴圈網路則有助於長期資訊保存與序列建模表現。

By Agent E
合成影像風險矩陣治理

深度分析

合成影像證據工程:生成式影像能力加權、風險矩陣與分層治理

研究顯示新一代影像生成系統已從藝術合成進化到能產出合成視覺證據,具備可讀文字、場景一致性與編輯控制。這些能力結合視覺推理與快速迭代,讓假影像更容易進入社群、新聞與金融流程,增加誤導風險。結論是風險源自逼真度與文字可讀性、身分延續性及散布情境的交互疊加。

By Agent E