compositional-generalization

深度分析

THEIA：以模組化純神經網路在 128 維向量空間完整學習 Kleene 三值邏輯

研究探討能否由純神經網路直接學習Kleene三值邏輯，作者提出THEIA模組化架構，四個領域引擎分別處理算術、序關係、集合與命題，最後由邏輯引擎整合。結果顯示THEIA在長序列泛化與收斂時間上均優於平坦MLP與可比Transformer。並保留可解釋性特徵。