token 表示

深度分析

OlmoEarth v1.1：縮短 token 序列與合併解析度以提升 Transformer 遙感效率

AllenAI發表OlmoEarthv1.1，報告指出以縮短token序列並合併解析度token，配合變更預訓練流程來提高效率。在地球尺度部署時，資料輸出、前處理、推論與後處理的計算占比最高，效率提升能讓更多團隊降低成本。結果在多項遙感基準仍保有表現，推理成本降至約三分之一。