深度分析
IBM 推出新一代多國語言向量化模型 Granite Embedding Multilingual R2，旨在解決多國語言檢索中模型大小與語言覆蓋率的矛盾。該模型基於 ModernBERT 構建，將上下文窗口擴展至 32K tokens，並針對 52 種語言與程式碼進行強化訓練。測試結果顯示 97M 小模型在檢索品質上超越多個 300M 級別模型，311M 版本則透過 Matryoshka 技術降低儲存成本，為企業級多國語言 RAG 部署提供高效能且低成本的解決方案。
深度分析
現代 AI 編碼器在稀疏檢索中表現不如舊款模型，主因在於追求無損重建的分詞器造成詞彙冗餘。研究團隊提出詞彙量遷移（VT）框架，利用空間拓撲語義初始化與激活潛能校準，將強大模型遷移至正規化詞彙表。此方法能以極低成本讓 ModernBERT 在 BEIR 基準測試中取得 52.4 nDCG 的頂尖表現，證明詞彙設計是稀疏檢索的關鍵瓶頸。
速報
隨著編碼器成為多項 NLP 任務的主流，葡萄牙語單語言模型仍落後於最新架構。BERTomelo 以 ModernBERT 為基礎，支援 1,024 token 視窗並加入 FlashAttention 與交替注意力機制，於 1.06 億篇語料上訓練。測試顯示其在 STS 與 NER 等任務上優於既有模型，且效能更佳。
深度分析
為提升檢索效能與品質，Hugging Face 公布六款基於 Ettin ModernBERT 的跨編碼器重排序模型，參數從 17M 到 1B 不等，使用蒸餾訓練。於 MTEB 基準上與大型教師模型相近，且在 H100 GPU 上吞吐量比同類 MiniLM 快 2 倍以上，展現高品質低延遲的實務應用潛力。
深度分析
教育對話去識別因教材與個資混同而困難，研究提出結合DeBERTa與ModernBERT的本地串接式框架，先高召回生成候選，再以LLM審核Redact或Keep，測試顯示在兩個大型線上數學輔導平台的測試中，該框架同時保留課程內容，且部署僅需普通筆記型電腦即可執行。
深度分析
Hugging Face 釋出六款基於 Ettin ModernBERT 的跨編碼器重排序模型，採用蒸餾訓練並支援長文檔。測試顯示 17M 版在 MTEB 召回指標上超過 MiniLM 基線，且在 H100 上每秒處理逾 7,500 對，提供更快且更準確的檢索‑重排序解決方案。
深度分析
研究者面對龐大論文資料庫時，常因大型語言模型產生幻覺而難以信任答案。本研究將VerbatimRAG應用於ACLAnthology，透過抽取式問答直接回傳原文片段並建立人工標註基準，實驗顯示小型抽取模型在抑制幻覺與提高精準度方面優於零-shot LLM抽取器。
ModernBERT
研究人員開發出一套 AI 系統，能透過分析基層醫療門診的對話錄音自動偵測憂鬱症。透過對比 ModernBERT 與 GPT-OSS 等模型，發現分析醫病雙方對話能顯著提升準確率，且在對話初期即可捕捉到關鍵訊號，有望將憂鬱症篩檢轉化為非侵入式的被動監測流程。