醫學影像分類
MedFormer‑UR：結合不確定性導向路由與原型學習的醫學影像分類變換器
醫學影像模型需提供可靠的不確定性量測。研究者在 MedFormer 基礎上加入原型學習與 Dirichlet 證據式不確定性，讓模型即時定位模糊區域並過濾噪聲特徵。四大影像測試顯示校準誤差降低最高 35%，提升選擇性預測可靠性。
Transformer
大型語言模型
大型語言模型寫作輔助對母語語言指紋的影響：ACL 論文實證分析
研究探討LLM時代寫作輔助工具是否削弱母語痕跡，利用半自動框架標記ACL論文並微調分類器偵測語言指紋，結果顯示辨識率持續下降，中文與法文出現異常抵抗，日韓語衰退更快，暗示AI工具可能影響學術語言多樣性。
深度分析
Transformer 中的 Mixture of Experts：稀疏化提升效能與可擴展性
隨著大型語言模型持續擴張，密集架構面臨成本與效能瓶頸。Mixture of Experts 以多個可學習子網路取代部分前饋層，透過路由器選擇少量專家處理每個 token，實現參數規模與推論速度分離。Hugging Face 重新設計權重載入與專家後端，使 MoE 在 Transformers 中成為一等公民，顯著縮短載入時間並提升訓練效率，預示未來 AI 開發將更倚賴稀疏化技術。
深度分析
解析語音語言模型 ICL 機制：聲學特徵與感應頭如何影響 AI 模仿能力
研究揭露語音語言模型的上下文學習（ICL）機制，發現語速是影響模仿效果的關鍵聲學特徵，而「感應頭」則在模型推理中扮演決定性角色。若移除感應頭，AI 將失去 ICL 能力，證明語音與文字模型在底層學習邏輯上具有共通性。