深度分析 從手機螢幕示範到自然語言指令:Teach VLM 與 Teach‑and‑Repeat 技術解析 隨著手機介面多樣化,傳統視覺語言模型難以捕捉操作意圖。研究提出 Teach VLM 透過關鍵影格抽取與資料飛輪,將螢幕變化翻譯成可編輯的自然語句,並以 Teach‑and‑Repeat 方式供執行代理重複使用,實驗顯示任務成功率提升 7‑11%。此框架亦展示了跨應用程式版本的魯棒性,並透過自動化標註循環降低標註成本。