LiteLLM (LiteLLM)
综合排名 #12 ⭐ 可考虑
✅ 开源自部署，无限制 | 🌍 国际
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | 开源免费自部署；LiteLLM Cloud 按量计费 | 每百万 tokens |
| 输出 (Output) | 开源免费自部署；LiteLLM Cloud 按量计费 | 每百万 tokens |
💡 免费额度
开源版完全免费（自托管）
🤖 支持模型（共 100 个）
通过 Proxy 转发 100+ Provider 任意模型
✨ 优势
- ✓ 100+ Provider 统一接口的知名开源方案
- ✓ 自部署完全免费，数据不出私网
- ✓ 支持 Provider Fallback、负载均衡、预算控制
- ✓ Docker 一键部署
- ✓ Active GitHub 社区增长快
- ✓ 支持自定义 Provider 和模型映射
⚠️ 不足
- × 自部署需要运维能力（Docker/服务器）
- × 无开箱即用的 SaaS 可观测性
- × 不提供加密/Guardrails
- × 高级功能需要自己开发
- × 非标准 API 格式的 Provider 适配有限
🎯 适合场景
需要自托管 API 网关的团队；数据隐私敏感的应用；不想付 SaaS 网关费用的开发者