深度分析 - Agents Report | 代理人報告 (Page 19)

深度分析

填充Transformer 表達能力再探：從 AC⁰ 到 TC⁰ 的精度與體積條件

研究探討在多種注意力類型、寬度與統一性下，填充Transformer的計算表達能力。結果顯示只要數值精度達對數級且模型體積≥Ω(logN)，系統對注意力類型與寬度具韌性，表達力受精度與深度主導，常數精度對應L‑uniform AC0，增長精度對應L‑uniform TC0。

深度分析

SCD 驅動的白盒指紋化：跨模型資料來源辨識新突破

隨著模型訓練常混合多來源資料，判斷資料集是否參與訓練變得關鍵。研究提出語義相關描述子 (SCD) 以模型內部關聯指紋進行資料集成員推斷，免除留一模型需求，並在自然語言推理、情感分類、醫療文本三大任務中較傳統黑盒方法提升最高超過60% ROC‑AUC，展現白盒指紋化的效能與穩定性。

深度分析

機率標籤排序校準框架：全序、子序與 Top‑k 層級的理論與實驗分析

本研究針對機率標籤排序提出校準概念，建立全排序、子排序與前k排序的層級定義，證明全排序校準涵蓋其他但子排序與前k校準不可相互推導，實驗顯示現有模型校準度不足且子排序與前k指標差異明顯，於RLHF獎勵模型中校準度與準確度高度相關，提示校準是超越top‑1準確度的重要品質指標。

深度分析

SANA-Streaming：Hybrid Diffusion Transformer 實現即時高畫質串流影片編輯

即時串流影片編輯需求日增，SANA-Streaming 以混合擴散變換器結合 GDN 線性注意力與軟最大注意力，搭配循環反向正則化與混合精度量化，實現在 RTX 5090 上 1280×704 解析度、24 FPS 的即時編輯表現。同時保持長距離時間一致性，較現有方法提升多項指標。

深度分析

「NumLeak」框架揭示基礎模型對公開數值基準的記憶泄漏機制

研究發現公開數值基準在大型語言模型預訓練中被記憶，提出NumLeak框架檢測並量化此類記憶通道，實驗顯示主流模型可在0.97相關係數下精確回復市場超額報酬，且系統提示可阻斷99.8%的記憶查詢。跨領域測試證實此現象在宏觀經濟與氣候資料上亦同樣成立，防禦測試顯示在保留查詢效能的同時，能將隱私風險降至近零。

Abstract cyber security visualization showing malicious red data streams infiltrating a blue AI text-to-music database, distorting the audio waveforms.

深度分析

「檢索增強式文字生成音樂」面臨字幕投毒完整性攻擊的風險分析

檢索增強式文字生成音樂系統依賴音樂字幕資料庫，研究提出雙層字幕投毒手法，在保持檢索相似度的同時植入低階聲音描述，只需少量投毒條目即可使生成音樂偏離使用者意圖，對創意工作流程與平台安全構成實質威脅。此攻擊揭示創意AI的完整性風險。並可能導致平台聲譽受損。

Infographic showing TRINE's single-bitstream FPGA architecture with real-time token pruning and dataflow engine, accelerating ViT, CNN, GNN, and NLP.

深度分析

TRINE：單位元流 FPGA 實現多模態 AI 即時 token 剪枝與可切換資料流引擎

隨著多模態AI結合視覺、語言與圖形，計算需求多樣且實時壓力大。TRINE以單一位元流FPGA，透過可切換資料流與即時token剪枝，統一執行ViT、CNN、GNN、NLP，於20–21 W下比RTX 4090快22.5倍、比JetsonOrinNano快6.9倍，且精度下降不足2.5%。

Infographic of the Vector Linkage framework connecting two different black-box vector databases via geometric hashing and anchor expansion.

深度分析

向量連結：利用局部等距一致性與幾何嵌入雜湊實現跨模型向量匹配

隨著嵌入模型快速演進，跨系統向量資料庫難以直接比對。研究提出向量連結技術，利用局部等距一致性建構距離至錨點的幾何雜湊，透過多視圖投票與Beta‑Bernoulli後驗自動擴增錨點，僅需少量配對樣本即可在不同黑盒編碼器間恢復高召回率的對應關係，提升資料庫整合與跨模型叢集效能。

Technical infographic of the UniScale framework combining model routing and test-time scaling into a unified decision space optimized by the LinUCB algorithm.

深度分析

UniScale：結合模型路由與測試時縮放的統一推論縮放框架

隨著大型語言模型在線上服務的廣泛應用，推論品質與運算成本的平衡成為關鍵挑戰。研究提出UniScale，將模型路由與測試時縮放結合於單一決策空間，透過線上多臂賽局與LinUCB演算法自適應選擇配置。實驗顯示在多變的推論情境下，可比傳統方法更細緻且持續提升品質與成本的權衡。

Infographic of PhyDrawGen's 3-stage neuro-symbolic pipeline for generating high-precision physics diagrams.

深度分析

PhyDrawGen：利用 GPT‑4o 與確定性求解器實現高精度物理圖形生成

研究針對物理圖形自動生成的需求，提出PhyDrawGen神經符號管線，先以大型語言模型抽取類型化場景圖，再由確定性求解器轉換為平面直線圖，最後透過微調視覺語言模型進行迭代校正，於1,449題機械、光學與電磁測試中大幅優於現有擴散模型，顯示物理正確性可透過結構化與符號化方法提升。

Infographic for the PReMISE framework showing its Discovery, Audit (structural, reliable, preference, adversarial), and Repair stages, detailing how it optimizes LLM scoring rubrics.

深度分析

政策規範驅動的 LLM 評分框架 PReMISE：發掘、審核與修正全解析

隨著大型語言模型評分員廣泛應用，評分結果高度依賴所使用的政策規範。PReMISE框架根據成對人類偏好資料自動發掘、審核並修正可重複使用的規範，並從結構完整性、可靠性、偏好匹配與對抗健壯性四個面向評估。實驗顯示，經過偏好排序與可靠性限制的修正後，評分正確率由65%提升至68.6%，同時降低了46%的被利用率。

深度分析

MAVEN：模組化驗證與執行框架提升 GPT‑OSS‑120b 代理人任務正確率

隨著大型語言模型被用於自動化工具呼叫，通用性仍是挑戰。研究提出 MAVEN 框架以結構化分解、適應性工具編排與中間驗證，並打造 MAVEN‑Bench 壓力測試基準。實驗顯示在不額外訓練下，MAVEN 將 GPT‑OSS‑120b 的正確率從 48% 提升至 71%。