steerable-generation

深度分析

Conditional Attribute Transformers（CAT）：在自回歸模型中進行逐詞序列屬性估計與導向生成

生成模型常以下一詞預測為訓練目標但難以估計或控制序列層級屬性。本文提出Conditional Attribute Transformers，在單次前向同時估計下一詞與基於候選詞的序列屬性，支援逐詞歸因、反事實分析與屬性導向解碼；實驗顯示在稀疏回饋及屬性預測任務中提升效能並加速估計。