大型語言模型進入系統技術時代：ICAM 六層架構全解析

模型技術向系統技術的轉變

隨著開發者廣泛使用 Codex、Claude Code、AutoGPT 等代理人來寫程式、管理專案與執行多步驟工作，LLM 所面臨的快取重用、上下文管理、代理排程與權限控制等問題，越來越類似傳統電腦系統的挑戰。

從電腦架構到模型原生堆疊的類比

研究將電腦架構的概念映射至新興的模型原生堆疊，回顧了 LLM 作業系統、記憶體管理、代理框架、工具協議、多代理協調、認知架構與安全治理等領域的工作，指出這些層面雖然分散卻缺乏統一模型。

ICAM：六層模型原生計算框架

為填補上述缺口，作者提出「Intelligent Computing Architecture Model (ICAM)」，一個包含六層、具明確介面合約與設計公理的框架。ICAM 以雙平面視角說明 LLM 同時具備類似 CPU 的機率執行層與類似作業系統的決策控制層。

三大設計法則

文中提出三條設計法則：

• 語意局部性法則：說明 KV‑cache 重用如何加速推論。
• 上下文預算法則：在有限注意力窗口與衰減效應下，如何有效管理工作集。
• 代理加速法則：多代理協作的效益呈遞減趨勢。

這些法則皆以已公開的系統層級資料驗證，並與近期代理程式實務的證據相呼應。

結論與未來路線

作者指出類比在某些情境下會失效，並提出模型原生計算的研究藍圖，呼籲社群在介面標準、資源管理與安全治理等面向持續深化。

延伸閱讀

• LLM 成為 GPU 核心效能預測代理，大幅提升深度學習核函式搜尋效率
• PithTrain：以代理人效能為核心的 MoE 訓練框架
• Laguna M.1 與 XS.2：Model Factory 打造的長程 Mixture-of-Experts 程式碼基礎模型

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。