深度分析

深度分析

自監督拉普拉斯近似（SSLA）：以自我預測重擬合量化貝式預測不確定性

貝式推論在實務上常受後驗計算困難限制。本研究提出自監督拉普拉斯近似（SSLA），以對模型自我預測資料重擬合，直接逼近後驗預測分布。該方法不依賴抽樣，能插入不同先驗並提供可解釋的敏感度訊號，實驗於各類回歸任務表現出較佳預測校準與計算效率。更利於實務採用

深度分析

序列化摩擦：大型語言模型在二維版面任務的表徵限制與視覺解法

研究檢視當具明確二維結構的任務被平坦化為一維序列時，是否增加表徵負擔。作者比較純文字序列化與將內容以任務忠實的二維版面呈現的視覺路徑，並在矩陣轉置、生命遊戲與LU分解上測試。結果顯示保留二維版面常顯著優於序列化，且尺寸放大時差距擴大。此現象作者稱為序列化摩擦。

深度分析

Graph Memory Transformer（GMT）：用中心點與轉移矩陣結構化取代 FFN，提升可解釋性

研究在自回歸解碼器型Transformer中，以圖結構記憶取代傳統FFN，提出Graph Memory Transformer（GMT），保留因果自注意力並以學習中心點與有向轉移矩陣進行記憶導引，實驗示範可訓練且提升結構可檢視性但在驗證損失上略低於密集基線。

深度分析

SPEED-Bench 評測框架：在生產級引擎上衡量 Speculative Decoding 吞吐與延遲

研究背景：大型語言模型推論受自回歸解碼瓶頸影響。核心做法：SPEED-Bench以質性與吞吐兩種資料切分並結合生產級推理引擎，衡量猜測性解碼在不同語域、長上下文與並發條件下的效能。主要結果：揭示合成輸入與低多樣性資料會高估加速效果，並提出統一評測基準。

深度分析

p2p² RAG：以互動式二分閾值與祕密分享實現可擴展的隱私保護 top-k 檢索

大型語言模型常仰賴檢索增強生成補足時效與領域知識。p2p²RAG以互動式二分閾值替代候選排序，透過雙伺服器祕密分享保護資料庫與使用者輸入，並對惡意查詢施加限制與驗證。實驗顯示在k=16–1024下，相較現有系統加速3–300倍，提升大k檢索實用性與隱私防護。

深度分析

Style Modulation Heads：以頭級干預提升 activation steering 的 Persona 控制穩定性

研究指出Activation steering可控制大型語言模型行為但常導致文本連貫性崩壞。本文以幾何分析定位少數注意力頭為StyleModulationHeads，主張僅對這些頭定位干預以放大persona與風格同時抑制殘差流噪音，實驗顯示生成連貫性與控制穩定性雙向改善。

深度分析

多層感知與 Graph-of-Thoughts (GoT)：可解釋的全雙工會話行為推理框架

語音對話系統需要在同時聽與說時做出即時判斷，處理語音重疊與微停頓。本研究提出以多層感知模組先辨識高階語行為，再在低階互動動作上做因果式預測與標註。系統以每秒為單位輸出兩層語行為與可讀取的推理理由，並以動態思維圖譜(Graph-of-Thoughts)串連決策過程。實驗在模擬與真實雙向對話上驗證，顯示在層級行為辨識與可解釋推理上具穩定表現與遷移能力。

深度分析

JAEGER：用 Neural IV 結合 RGB‑D 與 FOA 實現端到端三維視聽定位與推理

視聽大模型多以二維影像與單聲道音訊為主，難以在三維場域定位與空間推理。JAEGER以彩色深度影像結合多通道全向音訊，並提出NeuralIV加強方向性線索；實驗顯示提升定位與視聽推理成效。資料集與模擬環境支援多源重疊與混響場景，驗證模型在複雜音場仍維持穩定表現。

深度分析

OmniCustom：以 LoRA 與對比式流學習實現同步音視訊聯合生成

背景：既有視訊客製多半僅保留影像身分，難以同步控制語音音色。技術：OmniCustom 在聯合音視訊生成模型中引入參考影像與參考音訊、獨立 LoRA 於 QKV 自注意力，並加入對比式流匹配來強化身分與音色保存。結果：實驗顯示在身分一致性與音色克隆上超越現有方法。

深度分析

FAC Synthesis：以Feature Activation Coverage與稀疏自編碼器提升LLM後訓練特徵覆蓋

面對後訓資料多樣性瓶頸,本文提出在LLM內部特徵空間衡量多樣性的Feature Activation Coverage(FAC),並以稀疏自編碼器辨識種子資料缺失特徵,再生成合成樣本以填補這些特徵;同時示範跨模型轉移性與潛在資安風險。實驗證明有效提升資料覆蓋與下游表現。

深度分析

使 SFT 成為良好 RL 初始化：PEAR 的分布校正與 token/區塊/序列重權策略

此研究指出，單純追求監督式微調（SFT）離線成績，未必能帶來線上強化學習（RL）階段的最終提升。

深度分析

ARISE：以大型語言模型與注意力加權強化分類資料的語意嵌入

分類型資料在醫療、行銷與生物資訊等領域常見，但因缺乏內生度量，聚類常被語意差距模糊化。ARISE提出以值為單位向大型語言模型查詢，生成結構化描述後經注意力加權編碼，並以自適應融合結合類別身份向量，形成語意增強的表示空間。