Cerebras 推理 (Cerebras Inference)
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | Gemma 4 31B $0.99/M, Z.ai GLM 4.7 $2.25/M, OpenAI GPT-OSS 120B $0.35/M, Llama 3.3 70B $0.60/M | 每百万 tokens |
| 输出 (Output) | Gemma 4 31B $1.49/M, Z.ai GLM 4.7 $2.75/M, OpenAI GPT-OSS 120B $0.75/M, Llama 3.3 70B $0.60/M | 每百万 tokens |
注册即送 $5 试用额度，可访问全部 Cerebras 模型；速率限制较低
🤖 支持模型（共 7 个）
✨ 优势
- ✓ CS-4 晶圆芯片单 batch 推理速度优于通用 GPU 30 倍
- ✓ 开源 OpenAI GPT-OSS 120B 上提供最快推理（Apache-2.0）
- ✓ Gemma 4 31B 多模态推理（首家 Cerebras 多模态模型）
- ✓ OpenAI 兼容 API + 函数调用 + 流式 + JSON 模式全套
- ✓ 免费试用 $5 额度 + Developer 套餐 $10 即可接入全部模型
⚠️ 不足
- × 仅 US 单一区域，亚太延迟较高
- × 国内需要代理，无原生 CN 接入
- × 模型目录相对窄（不涵盖 Claude / GPT / Gemini 等闭源系列）
- × 无密钥层免费额度（仅试用额）
- × OpenAI 模式为主，对 Anthropic 风格 tool-use 习惯有迁移成本
🎯 适合场景
对 batch-1 延迟敏感的交互代理 / IDE 内代码补全 / 流式对话；需要开源权重（GPT-OSS 120B / Llama 3.1 405B）托管推理的团队；多模态 Gemma 4 直接接入的应用。
💰 价格与方案
| 套餐 | 充值 | 速率限制 | 可访问模型 |
|---|---|---|---|
| 免费试用 | $5 注册额度 | 最低 | 全部 Cerebras 托管模型（Gemma 4 多模态、GLM 4.7、GPT-OSS 120B、Llama 3.3/3.1） |
| Developer | $10 最低充值 | 免费档的 10 倍 | 同款目录；优先级处理 |
| Enterprise | 销售定制 | 专用队列；SLA 保障 | 定制模型权重 + 微调服务；可用性 SLA |
🔧 API 与开发者体验
- •OpenAI 兼容 REST API: 完全兼容 OpenAI `/v1/chat/completions` 端点——只需将 `base_url` 改为 `https://inference.cerebras.ai/v1` 并提供 Cerebras API Key，现有 OpenAI SDK（Python/Node/Go）即可直接调用，迁移零代码改动。
- •默认流式输出: 所有对话模型都支持 SSE 与 JSON 流；Gemma 4 31B 首 token 延迟在亚秒级，小型 Llama 变体在热连接下约 200 ms。
- •函数调用 / JSON 模式: GPT-OSS 120B 与 Z.ai GLM 4.7 原生支持工具调用；全部文本模型都支持 `response_format={"type":"json_schema",...}` 强制 JSON 输出；并行工具执行支持。
- •多模态图像输入: Gemma 4 31B 在 chat-completion 消息中直接接受 base64 图像输入（PNG/JPEG/WebP，上限 20 MB），无需独立 OCR——可对屏幕截图、文档扫描件、示意图直接做推理。
- •API Key 单项目隔离: API Key 按项目 ID 隔离，可在不中断服务的前提下轮换；用量面板按模型拆分归因，便于成本归集。
- •Python SDK + LlamaIndex 集成: 官方 `cerebras-cloud-sdk` Python 包对齐 OpenAI client 接口；LlamaIndex 与 LangChain 通过 `ChatCerebras` 适配器接入——RAG 管线无需胶水代码。
🎯 晶圆级 CS-4 硬件与前沿模型目录
Cerebras Inference 是少数在生产环境使用晶圆级 CS-4 芯片（而非通用 GPU）提供推理服务的平台。晶圆在 batch-1 上 30× 的速度优势，让推理服务在 Llama 3.1 405B 和 OpenAI gpt-oss-120b 等前沿模型上达到传统 GPU 云无法匹敌的延迟。2026 年 Q2/Q3 目录新增了多模态 Gemma 4 31B（首个具备视觉能力的 Cerebras 模型）、面向编码/推理的 Z.ai GLM 4.7、以及 Apache-2.0 开源的 OpenAI gpt-oss-120b——输出 token 价格全部位于每百万 $2.50 以下。在 batch-1 延迟优先的工作负载——交互代理、实时自动补全、IDE 内代码补全、流式对话——Cerebras 是唯一能让 405B 规模模型首 token 延迟在 1 秒以内的托管推理平台。
🌐 区域覆盖与延迟
Cerebras Inference 部署在 US 区 CS-4 硬件上，统一入口 `inference.cerebras.ai`。北美客户在小模型上典型 TTFT 50-200 ms，405B 规模模型约 400 ms。欧洲客户跨大西洋访问，TTFT 大约是北美的 1.5 倍。亚太（东京/新加坡/悉尼）客户访问同样负载 TTFT 600-900 ms——批处理流水线可接受，交互对话会有明显感知。中国大陆是明确例外：Cerebras 目前没有中国大陆推理区，CN 出向流量常被 GFW 限速，因此大陆开发者要么承受 1.5 s 以上的 TTFT，要么频繁遇到连接失败——面向 C 端用户的应用建议回退到国内厂商（智谱、通义、豆包）。