LiteLLM

详细介绍

LiteLLM 为 OpenAI、Anthropic、Azure、开源模型等提供统一接口，支持模型路由、重试、限流、成本跟踪和企业级 LLM 网关能力。