推論時適應

深度分析

MIITA 記憶驅動推論適應框架：讓小型語言模型在有限資源下持續學習不遺忘

小型語言模型（SLM）在資源受限環境中部署時，面臨持續學習（CL）的挑戰，因參數空間有限，直接更新容易導致災難性遺忘。現有針對大型語言模型（LLM）的記憶式方法依賴大量儲存與上下文推理能力，不適合 SLM。