長期上下文

速報

PEEK：為長期上下文的 LLM 代理打造可重用的上下文地圖

研究指出大型語言模型代理常需面對重複且龐大的外部上下文。PEEK以一個常數大小的上下文地圖快取定向知識，由Distiller、Cartographer與優先驅逐器維護，能在固定token預算下持續更新。實驗顯示PEEK在推理與學習任務中改進準確度並顯著降低迭代與成本。