Groq (Groq)
综合排名 #13 ⭐ 可考虑
❌ 需代理 | 🌍 国际
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | Llama 3.3 70B: $0.59/M, DeepSeek-R1: $0.89/M, Mixtral 8x7B: $0.15/M | 每百万 tokens |
| 输出 (Output) | Llama 3.3 70B: $0.79/M, DeepSeek-R1: $0.89/M, Mixtral 8x7B: $0.15/M | 每百万 tokens |
💡 免费额度
免费速率限制（足够个人开发和小型测试使用）
🤖 支持模型（共 12 个）
Llama 3.3 70B Llama 3.1 405B Llama 3.2 90B DeepSeek-R1 Mixtral 8x7B Gemma 2 9B
✨ 优势
- ✓ LPU 推理引擎：Llama 3.3 70B 达 1,250 tok/s
- ✓ 行业最快推理速度
- ✓ Llama 3.3 70B 仅 $0.59/M input 性价比超高
- ✓ 免费额度慷慨
- ✓ OpenAI 兼容 API，无缝迁移
- ✓ GroqCloud 平台持续扩张模型库
⚠️ 不足
- × 国内需代理访问
- × 模型数量有限（以开源模型为主）
- × 不支持 Function Calling
- × LPU 对非 Meta 模型的优化有限
- × 无海外节点，影响全球延迟表现
🎯 适合场景
对推理速度有极致要求的应用；高吞吐实时场景；开源模型的高性能部署