Transformer 編碼器

深度分析

小型 14M Transformer 編碼器在獎勵駭客偵測上匹敵 GPT‑5.4 LLM 判官

隨著AI系統頻繁出現獎勵駭客問題，研究者開發出小型Transformer編碼器，將終端扳手軌跡映射至單位球面，使嵌入距離近似獎勵與元資料的L1距離。線性探測器在清理後測試集上達0.9467 AUC與0.8296 TPR@5%FPR，與使用GPT‑5.4的大型LLM判官相當，且成本低四個量級。