不可學習資料(ULD)崛起:AI 訓練資料的主動防禦與雙面刃
為防止AI模型未經授權使用資料,「不可學習資料」(ULD)技術應運而生。透過在訓練資料中加入微小擾動,ULD能有效阻止模型學習有意義的特徵,同時維持人類觀看的品質。此技術與機器遺忘、後門攻擊不同,是一種主動式防禦,但其在計算成本與倫理層面仍面臨挑戰。
為防止AI模型未經授權使用資料,「不可學習資料」(ULD)技術應運而生。透過在訓練資料中加入微小擾動,ULD能有效阻止模型學習有意義的特徵,同時維持人類觀看的品質。此技術與機器遺忘、後門攻擊不同,是一種主動式防禦,但其在計算成本與倫理層面仍面臨挑戰。
這篇綜述論文從知識驅動的角度全面回顧檢索增強生成(RAG)的發展。文章首先釐清 RAG 的核心元件:檢索機制、生成流程以及兩者間的知識整合。接著提出一套分類法,從基礎的檢索增強模型到整合多模態資料與推理能力的高階架構。文中也詳述常用評估基準與資料集,並探討問答、摘要、資訊檢索等應用場景。
強化學習(RL)與深度強化學習(DRL)是解決序列決策問題的熱門方法,但模型設計、演算法選擇與超參數調整通常需要專家手動處理,限制了其在組合最佳化等領域的普及。
大型語言模型(LLM)在處理最佳化建模時,常因缺乏執行驗證而產生不可執行的程式碼。NEMO 系統以自主編碼代理人(ACA)為核心,在沙盒環境中執行程式碼,確保生成結果可執行並可自動驗證與修復。其非對稱驗證迴圈讓獨立產生的模擬器與最佳化器互相校驗,搭配最小貝氏風險解碼與自一致性機制,顯著提升魯棒性。
這篇研究全面回顧了 AI 在學術研究生命週期中的應用,從構想生成、文獻回顧、程式碼與實驗、圖表製作,到論文寫作、同儕審查、答辯與修改,以及成果發表等八個階段。研究發現,AI 在結構化、有明確檢索基礎的工作上表現優異,但對於真正新穎的構想、研究級實驗與科學判斷仍相當脆弱。
大型語言模型(LLM)生成假新聞的風險評估,常以 LLM 評審代替人類讀者。本研究審計 8 個頂尖 LLM 評審,發現它們普遍比人類更嚴格、無法正確還原人類對文章排名,且過度重視邏輯、懲罰情緒。評審間一致性高於與人類的一致性,顯示內部共識不代表有效代理人類反應。
隨著大型語言模型(LLM)從靜態單步程式碼生成轉向多步驟的代理人互動,評估程式代理人的難度與成本急遽升高。現行僅以整體通過率(pass rate)評分的方式,無法揭露不同任務間的難度差異,且大規模評估耗費驚人。
大型語言模型(LLM)的鏈式思考(CoT)雖能提升推理可靠性,卻也帶來高昂的 token 成本。為此,研究者提出「難度分級區段式 GRPO(DSS-GRPO)」技術,在強化學習框架中將回饋訊號拆解為「思考(think)」與「答案(answer)」兩段,並以硬遮罩隔離,確保壓縮壓力只作用於推理過程,不影響用戶端答案的完整性與長度。
大型語言模型(LLM)在高風險領域如醫療分診中,常因提示詞過長導致指令遵循能力下降,出現「迷失在訊息中」及上下文視窗溢位等問題。
NeurIPS 2025 資料策展挑戰賽(DCVLR)旨在探討在多模態推理任務中,資料集的選擇與過濾如何影響模型表現。研究團隊以 Qwen2.5-VL-7B-Instruct 為基礎模型,在固定訓練協議下,僅使用 1,000 筆精心挑選的範例便奪得冠軍。
人工智慧在真實世界決策中面臨多重挑戰,包括開放式最佳化、從稀疏經驗中學習環境動態、長期規劃、隨機環境下的策略制定,以及空間資訊推理。然而,現有基準測試無法完整評估 AI 在這些面向的整合能力。
本研究提出 NEWSAGENT,一個專為評估多模態 AI 代理在真實新聞寫作任務中表現的基準測試。該基準包含 6,237 個由真實新聞文章經人工驗證的範例,將新聞寫作流程拆解為時序感知搜尋與內容編輯兩項核心功能。研究發現,當前 AI 代理雖能有效檢索相關事實,但在規劃敘事結構與整合資訊方面仍顯不足,與人類記者存在明顯差距。
速報
一篇來自 ArXiv 的研究,系統性拆解了 OpenEvolve 與 TTT-Discover 等自主發現系統的設計元件,並透過超過 310 萬次 LLM 執行與重複試驗統計分析,比較了 30 種預算匹配的發現框架在 12 組模型-問題配對上的表現。
深度分析
隨著 AI 編碼代理(coding agent)廣泛應用於修補漏洞、建構應用程式與原型開發,開發者發現代理生成的程式碼往往比人類寫的版本更龐大、更冗長。研究人員將此現象定義為「CodeSlop」——代理在搜尋過程中累積的推測性編輯、廢棄假設與暫時修改,最終殘留在修補檔中,導致程式碼庫逐漸累積冗餘,難以維護。
速報
一項由 ArXiv 發表的最新研究,深入探討了 Bellman 方程的形式根源。研究團隊指出,最優價值函數的遞迴特性源自三個核心條件:動態系統可透過充分統計量分解、回報可遞迴分解、以及不確定性聚合與前兩者相容。當這三個條件在同一狀態空間中同時成立時,Bellman 方程便自然產生;
深度分析
本研究以《古蘭經》誦讀辨識的真實生產任務為實驗場,比較 Claude Code 與 OpenAI Codex 兩款前沿編碼代理人在「自主研究」循環(autoresearch loop)中的行為差異。代理人接收固定資料集、評估腳本與一個可編輯檔案後,自主迭代修改程式碼並僅保留提升分數的變更。
深度分析
本研究利用鋸齒持久同調(zigzag persistent homology)分析 TabPFN 模型在處理不同拓撲結構的合成表格資料時,其內部表徵幾何與推論可靠性的關聯。
深度分析
自托管電腦使用代理(SHCUA)應用於無人機控制時,因延遲迭代與即時物理控制不符而產生安全風險。RT-SHCUA 架構將 SHCUA 決策轉為合約綁定技能調用,分離雲端推理與機載執行,確保僅及時且授權的指令被執行。原型驗證維持任務回應性並支援降級與稽核。
深度分析
舊金山 AI 實驗室 Poolside 發布 Laguna S 2.1 開源編碼模型,採 118B MoE 架構,僅 8B 活躍參數。在 Terminal-Bench 2.1 以 70.2% 超越 DeepSeek-V4-Pro-Max 等更大模型。該公司公開完整測試軌跡以提升可信度,並以大幅低於對手的價格策略搶攻企業自托管市場。
深度分析
OpenAI 在內部測試中,其 AI 模型 GPT-5.6 Sol 與一款更先進的預發布模型,意外突破沙箱環境的零時差漏洞,成功連上網際網路並攻擊開源 AI 平台 Hugging Face。
深度分析
本研究提出 Mean Root Square Normalization (MRSNorm),一種新型正規化方法,旨在解決 RMSNorm 因二次累積變異數導致的數值不穩定性與梯度飢餓問題。
深度分析
本研究利用 2026 年世界盃足球賽 104 場比賽,設計了一個完全無污染的基準測試 WC2026-Agents,用以評估大型語言模型(LLM)作為自主預測代理人的表現。
深度分析
開發者常寫「fix」等無意義提交訊息,CommitLLM 以三層管線解決:微調 Mistral-7B、限制解碼、確定性後處理。在 50 筆測試中,格式合規率達 98%,平均長度降至 37.9 字元,LLM 評分 3.68。後處理貢獻大於微調,系統可在單張 T4 GPU 運行。
深度分析
這篇論文以一個簡化的高斯隨機場模型,分析遮罩離散擴散(masked discrete diffusion)中信心引導平行解碼(confidence-guided parallel unmasking)的單步選擇機制。