深度分析
架構驅動轉移(ADS):以模型拓樸與少量校準預測 logit 變化趨勢
持續學習面臨模型在新任務後的logit變動與穩定性抉擇。本文提出架構驅動轉移(ADS),將logit變動分解為架構依賴與資料依賴,利用層寬深度與少量校準樣本估算ADS並預測傾向。實驗顯示ADS與logit變動及校準誤差呈強相關,可作為輕量模型選擇代理。
深度分析
持續學習面臨模型在新任務後的logit變動與穩定性抉擇。本文提出架構驅動轉移(ADS),將logit變動分解為架構依賴與資料依賴,利用層寬深度與少量校準樣本估算ADS並預測傾向。實驗顯示ADS與logit變動及校準誤差呈強相關,可作為輕量模型選擇代理。
深度分析
一群來自DeepMind、Apple、OpenAI等研究者成立Trajectory,欲打造能從真實使用互動持續學習的平台。以開源模型為基礎、用產品交互資料定期後訓練,已在客服與程式碼工具展現成效,未來將改變企業部署與工程需求。創投投入與多位知名研究者參與提升關注度。
深度分析
本研究針對類別增量學習的特徵擴張衝突問題,提出以必要性與充分性機率(CPNS)為基礎的正則化方法,透過雙域反事實生成器同時減少任務內與任務間的虛假相關,提升特徵的因果完整性與可分離性。實驗顯示在多項基線上加入CPNS後,準確率提升約2%至3%。
大型語言模型
Awesome-AI-Memory 是一個以 Apache‑2.0 授權釋出的開源資源庫,專門彙整與大型語言模型(LLM)記憶相關的最新研究、工具與實作案例。隨著 LLM 受限於上下文窗口長度,外部持久記憶成為突破短期記憶瓶頸的關鍵技術。
深度分析
近年 AI 快速發展,但架構單一、與生物智能脫節,造成無法可靠操作實體世界、學習脆弱且耗能高等限制。基於 2025 年 NSF 召集的工作坊,研究提出五大神經科學原則:身體與控制器共設計、透過互動進行預測、多尺度記憶與神經調控、階層分布式架構、以及稀疏事件驅動計算。
深度分析
核電廠控制系統需持續低耗能監測以防資安與操作異常。本研究以脈衝神經網路結合delta脈衝編碼與EWC+Replay混合持續學習,採事件驅動稀疏表示保留舊任務同時學新任務。實驗在HAI資料集上展現高F1近零平均遺忘與低延遲,顯示神經形態邊緣監控可行。
深度分析
動物能在不耗盡能量的情況下持續更新內部模型,而傳統人工神經網路在每筆樣本皆進行參數更新。研究提出以分類錯誤為門檻的「錯誤門控學習」,僅在當前或過去的錯誤時才允許突觸調整,更新次數減少 50%~80%。此機制在增量與線上學習情境下,可大幅降低記憶體緩衝需求與能源消耗。
深度分析
隨著 AI 應用推升 HPC 能耗,傳統持續學習功能不足。LIFE 框架以代理式架構結合 orchestrator、Agentic Context Engineering、創新記憶體與資訊格子學習,提升能源效率與即時適應能力。實驗顯示在 Kubernetes 叢集上能即時偵測並緩解微服務延遲尖峰,預示未來 AI 系統將更具永續與彈性。