LiteLLM 是开源 AI 网关,提供与 OpenAI 格式兼容的模型调用入口。官网介绍模型请求路由、使用量与费用管理,以及自行部署等方向,适合管理多个模型服务的开发团队。
开发者可从网关文档了解接口与部署方式,再结合模型提供方、访问控制和费用管理需求查看相应配置。
官网:www.litellm.ai · 资料来源:官网内容资料
LiteLLM 是开源 AI 网关,提供与 OpenAI 格式兼容的模型调用入口。官网介绍模型请求路由、使用量与费用管理,以及自行部署等方向,适合管理多个模型服务的开发团队。
开发者可从网关文档了解接口与部署方式,再结合模型提供方、访问控制和费用管理需求查看相应配置。
官网:www.litellm.ai · 资料来源:官网内容资料
