參數壓縮

深度分析

自適應字典嵌入 (ADE) 於大型 Transformer 中實現多錨點參數壓縮與高精度

本研究提出自適應字典嵌入（ADE），透過詞彙投影、分組位置編碼與上下文感知錨點重加權，將多錨點表示擴展至大型語言模型，核心將兩階段查找合併為單一矩陣運算並利用自注意力動態組合錨點，實驗顯示在DBpedia-14上以98.06%超越DeBERTa，且嵌入層壓縮逾40倍。