NVIDIA NIM (NVIDIA NIM)
综合排名 #15 ⭐ 可考虑
❌ 需代理（build.nvidia.com 平台为美国服务，受出口管制限制） | 🌍 国际
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | Partner-dependent (Nemotron-3 Ultra 550B: $0.50-0.90/1M tokens) | 每百万 tokens |
| 输出 (Output) | Partner-dependent (Nemotron-3 Ultra 550B: $1.70-3.60/1M tokens) | 每百万 tokens |
💡 免费额度
免费开发端点（无需信用卡，生成 API Key 即可开始）
🤖 支持模型（共 80 个）
Nemotron-3 Ultra 550B (a55B) Nemotron-3 Super 120B (a12B) Nemotron-3 Nano 30B (a3B) Llama-3.3-Nemotron-Super-49B v1.5 Llama-3.1-Nemotron-Ultra-253B v1 Llama-3.1-Nemotron-Nano-8B v1 Nemotron-Mini-4B-Instruct Nemotron-3-Nano-Omni-30B (reasoning)
✨ 优势
- ✓ NVIDIA 自研 Nemotron-3 系列：LatentMoE（Mamba-2 + MoE + Attention）混合架构
- ✓ Llama-Nemotron 优化模型（NVIDIA 用自家 GPU 微调过的 Llama 系列）
- ✓ OpenAI 兼容 API（/v1/chat/completions），SDK 零改造
- ✓ 免费 Prototyping 端点，无需信用卡
- ✓ 80+ 模型覆盖：Llama / Qwen / Mistral / DeepSeek / Kimi / GLM / Gemma / Phi
- ✓ NVIDIA TensorRT-LLM 推理引擎，GPU 利用率最大化
⚠️ 不足
- × NVIDIA 不直接运营 API——合作伙伴端点定价和服务质量参差不齐
- × 国内访问需稳定代理，受美国出口管制限制
- × 无统一计费——每个合作伙伴端点独立计费和注册
- × 速度基准数据未公开发布，第三方测试数据有限
- × 非 NVIDIA 自研模型的推理性能未公开优化
🎯 适合场景
需要最新 NVIDIA 自研 Nemotron 模型的团队；探索 LiveAgent（代理技能平台）的开发者；多端点部署测试的 AI 工程团队