階層遞迴模型

深度分析

Sapient HRM-Text 利用階層遞迴模型大幅降低基礎模型訓練成本

Sapient研發HRM-Text以階層遞迴模型取代傳統Transformer，僅用指令回應對訓練，將計算與資料需求大幅降低。模型在MMLU、GSM8K、MATH等基準上與數倍參數的開源模型相當，且訓練成本約1500美元、僅需1.9天。此突破讓企業可自行打造推理核心，降低對大型模型依賴。