edge-inference

rust

YoMo：以 Rust 為基礎的 Serverless LLM 函數呼叫平台 — TLS 1.3 與地理分散式邊緣推論

YoMo是一個開源伺服器無伺服LLM函數呼叫框架，目標支援超低延遲的人工智慧代理互動。專案以Rust為主體，強調地理分布式邊緣推論與每封包TLSv1.3加密，並提供工具部署與運維機制。整體設計旨在把推理與工具靠近使用者，提升多區域回應速度與可靠性。