4位元量化

深度分析

LuckyStar 111B：多語言混合推理與工具使用的 4 位元量化企業代理人模型

在記憶與服務資源受限的企業環境中，LuckyStar 111B 透過前置詞條切換提供推理與非推理模式，結合多語言微調、可驗證獎勵強化工具使用，並以4位元量化支援單卡部署。實驗顯示其在數學推理、函式呼叫與NL2SQL任務上超越基礎模型，且保持韓英指令遵循品質。