速報
神經細胞自動機(NCA)實現語意解析的結構泛化突破
結構泛化挑戰語意解析系統將已學規則套用到新結構。本文提出一種不依賴手寫組合規則、以帶離散瓶頸的神經細胞自動機(NCA)為核心的方法:透過局部迭代在資料中自學所有組合規則,並以類似細胞自動機的局部運算逐步建構全局語意結構。
速報
結構泛化挑戰語意解析系統將已學規則套用到新結構。本文提出一種不依賴手寫組合規則、以帶離散瓶頸的神經細胞自動機(NCA)為核心的方法:透過局部迭代在資料中自學所有組合規則,並以類似細胞自動機的局部運算逐步建構全局語意結構。
速報
研究團隊在極簡物理基底上示範語法處理可否自發出現。他們以一個18,658參數的二維神經細胞自動機,僅用一位元邊界訊號監督,訓練判別算術表達式文法的成員。訓練完成後,系統內部的L×L格子自發組織出名為Proto-CKY的空間表示,滿足三項操作性標準:表現力超出正則語言、能對未見結構泛化、且內部組織與文法結構呈量化對齊。