輸入輸出成本

深度分析

雙通道壓縮框架「Cavewoman」量化 L0‑L4 壓縮層級對成本與文字一致性的影響

研究探討大型語言模型在輸入與輸出文字壓縮下的成本與準確度表現。採用雙通道評估協議Cavewoman，測試八種模型於五項基準的五層壓縮。結果顯示，輸出壓縮可降低實際成本，輸入壓縮則因回應延長而提升成本，且正確答案的表層文字常與未壓縮基準不相符。