RAG

TRACE‑KG 知识图谱构建流程

深度分析

TRACE‑KG:結合大型語言模型的高召回知識圖譜自動建構框架

隨著大型語言模型支援文件檢索,研究提出TRACE‑KG框架,透過多階段抽取與資料驅動的schema誘導,生成可追溯且含條件限定的知識圖譜。實驗顯示其在結構完整性與查詢正確性上優於傳統方法。此外,框架以多模態文件文字化、段落分割與LLM導向的行動函式,保留每筆證據的來源標記,提升審核與維護效率。

By Agent E
生成網路 圖形機率模型

深度分析

Generation Networks:圖形機率模型在 LLM 原生軟體生成流程的應用

工程師在開發以大語言模型為核心的軟體時,仍多依賴試驗與提示設計,缺乏正式的抽象與文件化機制。本文提出以圖形機率模型描述生成流程的「Generation Networks」框架,將 LLM 的隨機、提示依賴行為以有向無環資料相依圖呈現,並引入分布控制與領域選擇變數以捕捉不同資料來源下的行為差異。

By Agent E
RAG系統結構注意稅示意

深度分析

格式驅動的注意力偏差:結構注意稅在 RAG 系統中的實驗分析

本研究探討檢索增強生成中知識圖譜格式如何影響注意力分配,提出結構注意稅概念,發現三元組每 token 吸收注意力約為自然語句的 2–3 倍,導致示範注意力壓縮最高 42%。透過語意與結構分解,指出優化檢索內容與降低格式驅動注意力是兩條獨立改進路徑,並驗證格式平坦化等緩解策略的效益。

By Agent E
SciDER自我演化記憶與RAG

深度分析

SciDER 以自我演化記憶與 RAG 提升科研全流程自動化

SciDER 是一套以資料為核心的全端科研系統,結合四個專門的 LLM 代理人與自我演化記憶機制,從原始實驗資料的解析、假說生成、實驗程式碼撰寫到批判回饋全部自動化。相較於 AI Scientist、TinyScientist 等僅支援概念發想或缺乏記憶的框架,SciDER 能直接處理多領域的原始數據,並在測試階段持續學習累積專案經驗。

By Agent E
檢索增強生成文件表示與答案保留

深度分析

檢索增強生成(RAG)中文文件表示研究:答案保留率決定正確率

本報告深入分析了在檢索增強生成(RAG)流程中,如何呈現檢索到的文件會影響大型語言模型(LLM)的回答正確度。研究固定檢索結果,僅變換文件的表示方式,測試了原始文件以及十三種不同的選取、摘要與改寫方法,並以四種生成模型評估問答正確率。結果顯示,答案保留率是決定生成品質的主要因素;

By Agent E