深度分析
AdaHome:以小語言模型實現地端智慧家庭助手,兼顧效率與隱私
智慧家庭助手常依賴大型語言模型與雲端部署,帶來延遲與隱私疑慮。AdaHome 針對在地端小語言模型設計,引入意圖感知規劃框架,依指令類型動態選擇輕量推理或直接執行,並以思路草稿策略提升決策效率。實驗顯示,直接指令準確率達 86.7%,延遲降低最多 3 倍,多輪偏好一致性達 88%,證明小模型也能實現高效個人化控制。
深度分析
智慧家庭助手常依賴大型語言模型與雲端部署,帶來延遲與隱私疑慮。AdaHome 針對在地端小語言模型設計,引入意圖感知規劃框架,依指令類型動態選擇輕量推理或直接執行,並以思路草稿策略提升決策效率。實驗顯示,直接指令準確率達 86.7%,延遲降低最多 3 倍,多輪偏好一致性達 88%,證明小模型也能實現高效個人化控制。
速報
隨著大型語言模型在使用者端的應用日益增多,傳統僅依賴靜態個人檔案或文字訊號的個人化方法已無法捕捉使用者在不同領域查詢時的專業程度差異。研究團隊提出 ExPerT,一套以查詢為單位的個人化系統,透過同時解析查詢文字與打字動態,推斷使用者的領域專業度,並根據推斷結果調整回應的細節、術語與概念深度。
深度分析
本研究提出Gate-and-Merge,一套針對視覺語言模型(VLM)進行組合化個人化的零次學習框架。每個使用者自定義概念以輕量化LoRA適配器與專屬概念token獨立學習,基底模型保持凍結。推論時透過門控機制估計文本與視覺線索,選擇性啟動相關模組,並在權重空間合併經稀疏化與符號一致性的更新以抑制干擾。