RAG

跨領域檢索汙染控制機制

深度分析

C3R:利用 Conformal Prediction 提升多領域檢索的汙染控制與可靠性

多領域檢索常因返回錯誤領域文件而增加風險,C3R 以推論領域後驗機率提供每領域汙染上限認證,支援異質預算與軟降分機制,對於無標籤查詢在不可保證時自行放棄,實驗在包括公共法規資料的多樣測試集上皆未違背認證,同時相較於最嚴格的硬過濾保留更高召回率,顯示在受規範限制的產業應用具實務價值。

By Agent E
向量壓縮 DIVE 梯度自限

深度分析

DIVE:解決向量壓縮過擬合,提升 LLM 嵌入向量在小數據集的高效縮減

面對大型語言模型高維嵌入向量導致的存儲與延遲壓力,研究者提出 DIVE 壓縮適配器。該技術透過基於 Hinge 的三元組損失實現梯度自限,避免在數據稀少時過度擾動預訓練空間,並結合多頭 NT-Xent 對比損失提供自監督信號以防止模型崩潰。實驗顯示 DIVE 在多個 BEIR 數據集上性能全面超越現有方案,且能穩定提升檢索品質。

By Agent E
Infographic: Optimizing a 4B AI model on a laptop for faithful deep research.

深度分析

4B 小模型也能做深層研究?揭秘 On-Device AI 引用忠實度的「暴露量」關鍵

針對在個人裝置部署 4B 規模 AI 研究代理人的挑戰,本研究探討如何提升其引用忠實度。研究將引用品質拆分為忠實度與可信覆蓋率,透過調整單一來源的字數暴露量與檢索品質進行對比實驗。結果顯示增加暴露量可顯著提升忠實度且成本極低,而覆蓋率則由檢索召回率決定。這為邊緣 AI 實現可靠的文獻研究提供了低成本的優化路徑。

By Agent E
An infographic of Fortémi, a Rust-based AI knowledge base featuring hybrid search.

Fortémi

Rust 打造的 AI 知識庫 Fortémi:融合混合搜尋與知識圖譜的第二大腦

面對企業內部雜亂的非結構化數據,開源專案 Fortémi 提供了一套基於 Rust 與 PostgreSQL 的 AI 知識庫解決方案。該系統透過 pgvector 與全文檢索的混合搜尋,結合知識圖譜與多模態數據處理,將碎片化資訊轉換為結構化知識。其支援 MCP 協定讓 AI 代理人能無縫整合,為個人知識管理與企業級 RAG 應用提供高效能且低延遲的自託管基礎設施。

By Agent E
Claude exam-prep skill converting course materials into a zero-hallucination study coach.

Claude Code

universal-examprep-skill:將 Claude 轉化為零幻覺的期末衝刺教練

面對考前衝刺的壓力,GitHub 開源專案 universal-examprep-skill 提供了一套針對 Claude Agent 的技能插件。該工具能將投影片與考卷轉化為知識庫,透過嚴格的接地機制確保 AI 僅依據素材回答並標註來源,達成百分之百的範圍外拒答率。此方案有效解決了 AI 幻覺問題,讓學習者能快速建立可驗證的複習流程。

By Agent E
NVIDIA 推出單卡一天完成的領域專用嵌入模型微調流程,提升 RAG 檢索效能

深度分析

NVIDIA 推出單卡一天完成的領域專用嵌入模型微調流程,提升 RAG 檢索效能

通用嵌入模型常在處理企業專業文件時失效,導致 RAG 系統檢索精度不足。NVIDIA 推出一套微調流程,利用 LLM 自動生成合成問答對並挖掘硬負樣本,同時引入多跳查詢以強化複雜語意推理。該方案僅需單張 GPU 在一天內即可完成訓練,實測可提升 Recall@10 與 NDCG@10 逾 10%,顯著優化專業領域的檢索效能。

By Agent E