Flock
Flock：單一 Go 二進位打造私有 LLM 閘道，兼容 OpenAI 與 Anthropic API
GitHub 新發掘的 Flock 將單一 Go 二進位變成私有 LLM 推理叢集，支援多機路由、llama.cpp‑RPC 分片、每使用者金鑰與配額，並同時提供 OpenAI 與 Anthropic 兼容介面，讓團隊可自行掌控模型與成本。此方案可結合 Ollama、vLLM、MLX‑LM 等開源引擎，亦能在需要時回退至付費的 Claude 或 GPT，適合注重資料隱私與硬體資源利用的台灣開發者。