Cerebras (Cerebras)

收录于 https://inference.cerebras.ai

综合排名 #14 ⭐ 可考虑
❌ 需代理 | 🌍 国际

💰 Token 价格

类型 价格 备注
输入 (Input) $0.10/M to $0.60/M tokens(所有模型统一 $0.60/M input) 每百万 tokens
输出 (Output) $0.10/M to $0.60/M tokens(统一 $0.60/M output) 每百万 tokens
💡 免费额度

免费速率限制(限制 RPM,适合测试)

🤖 支持模型(共 6 个)

Cerebras Llama 3.3 70B Cerebras Llama 3.1 405B Cerebras Llama 3.3 8B Cerebras Qwen 2.5 72B Cerebras Qwen 2.5 32B Cerebras DeepSeek-R1 Distill

✨ 优势

  • WSE-3 晶圆级芯片,2000+ tok/s 推理速度
  • Llama 3.3 70B 达 2,000+ tok/s,行业最快
  • 零冷启动(Zero cold start)
  • OpenAI 兼容 API
  • 定价合理($0.60/M tokens 统一费率)
  • GPU 替代方案,推理芯片设计独特

⚠️ 不足

  • × 国内需代理访问
  • × 模型品种有限(仅 6 个)
  • × 不支持 Function Calling
  • × 速度虽快但模型性能依赖 Llama/Qwen 基座
  • × 非通用推理芯片架构,第三方支持有限
  • × 多模态模型缺失

🎯 适合场景

对推理速度要求极致的应用;高吞吐实时场景;Llama 系列模型高性能推理