Output Generation Capacity (OGC)

深度分析

Output Generation Capacity（OGC）：延後渲染與 Gen‑Pilot 的實務驗證

LLM代理人在生成大量格式化文件時會遇到「輸出停滯」問題。本文提出OutputGenerationCapacity(OGC)來衡量在當前上下文下可可靠生成的代幣能力，並證明延後渲染(format‑costseparation)可在代價上優於直接生成，同時提出自適應策略選擇以映射OGC與輸出成本獲取最優生成策略，實驗顯示延後渲染可完全避免停滯並顯著降低生成代幣。