LLM Proxy

LiteLLM

LiteLLM：以 OpenAI 相容 API 統一百餘模型的開源 AI Gateway

近期開源生態出現多款AI代理與網關專案，LiteLLM提出一套PythonSDK與代理伺服器，能以OpenAI格式呼叫超過百種大型語言模型，並內建成本追蹤、流量平衡與日誌防護，此設計有助企業整合多家供應者、提升部署彈性與審計可見性，促進生態互通與風險管理。