推論算力節省

深度分析

回溯控制探測鏈：利用隱藏層預測提前中止 LLM 代理人任務，節省近 50% 推論算力

LLM代理人在多步任務中常在失敗前耗盡算力。研究利用隱藏層激活的線性探測器於首輪即預測失敗，構建六階段回溯控制探測鏈，每關以Clopper–Pearson校準門檻保證召回，於90%成功召回下，Qwen‑2.5‑7B與Llama‑3.2‑3B分別節省約47%與37%推論計算。