表徵探測

速報

內部表徵探測提升大型語言模型預測校準與可信度

研究針對大型語言模型的預測校準與推理可信度進行探討。透過在中間層激活上訓練表徵池化探測器，顯著提升模型校準度，且能偵測出鏈式思考與實際證據不符的情況。實驗顯示，預測在推理前已基本確定，使用此方法可減少產生代幣量 30%~47% 且不影響準確性。