深度分析
LlamaWeb：為 llama.cpp 提供 WebGPU 後端，實現瀏覽器端記憶體節省與性能可攜的 LLM 推論
背景：瀏覽器執行大型語言模型能提升隱私與可及性但受限於記憶體與異構硬體。核心做法：LlamaWeb以llama.cpp為基礎，採靜態記憶體規劃、預分配參數緩衝、避免冗餘載入並用模板化GPUkernels支援多種量化格式。主要結果：實驗顯示記憶體需求平均降低29–33％且解碼吞吐提升45–69％。
WebGPU
embedding-atlas
Embedding Atlas：Apple 推出支援 WebGPU 的開源大型向量嵌入互動視覺化平台
Apple 在 GitHub 發布 Embedding Atlas，針對大規模向量嵌入提供互動視覺化。工具支援自動聚類、密度估計與即時搜尋，並以 WebGPU 加速渲染，可呈現數百萬點資料，提升資料探索效率。此外，工具提供多視圖協同篩選與密度等高線，可即時辨識資料群聚與異常點。
深度分析
Transformers.js v4 正式上線 NPM：全新 WebGPU 執行環境與模組化升級
Transformers.js v4 於 2026 年 2 月上架 NPM，採用全新 C++ 重寫的 WebGPU 執行環境，支援瀏覽器與多種 Node 替代執行環境，並以 pnpm monorepo 與 esbuild 重構套件結構。新版效能提升最高四倍、建置時間縮短至 200 毫秒，讓本地執行大型模型更為可行，預計將推動 WebML 生態快速成長。