Replicate (Replicate)
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | 模型调用按运行时长 + GPU 型号计费，$0.00025/s/A100起步 | 每百万 tokens |
| 输出 (Output) | 按运行时长计费（非 token 计费模式） | 每百万 tokens |
新用户 $0.50 免费额度
🤖 支持模型（共 50000 个）
✨ 优势
- ✓ 50,000+ 开源模型，覆盖 AI 全部领域
- ✓ 支持文本/图像/音频/视频/3D 模型
- ✓ CogView/Flux/Stable Diffusion 主流图像模型
- ✓ Python SDK 一键部署和调用
- ✓ CogVideo/AnimateDiff 视频生成模型
- ✓ 定价格式统一（按秒计费）
⚠️ 不足
- × LLM 推理速度慢（按 GPU 时长计费，延迟高）
- × 国内需代理
- × 托管的开源模型质量参差不齐
- × 非 token 计费模式不适合高吞吐 LLM 场景
- × 没有模型质保（社区上传模型可能有问题）
🎯 适合场景
AI 模型实验和原型验证；图像/视频/音频生成；非 LLM 模型的 API 调用
💰 价格与方案
| 档位 / 模型 | 计费单位 | 费率 | 最佳用途 |
|---|---|---|---|
| 免费试用额度 | 注册一次性赠送 | $0.50 | 评估、烟雾测试 |
| 按量付费（A100 40GB） | 按秒，GPU 时长 | 约 $0.00025/秒 | 轻量 LLM 推理、小尺寸 diffusion |
| 按量付费（A100 80GB） | 按秒，GPU 时长 | 约 $0.00040/秒 | 70B 级 LLM、高分辨率 SDXL |
| 按量付费（H100） | 按秒，GPU 时长 | 约 $0.00100/秒 | 前沿 LLM、视频 diffusion |
| 专用端点（私有部署） | 按小时，专用 GPU | 商务报价 | 持续生产流量、SLA |
| 团队 / 企业版 | 批量合同 | 商务报价 | 全组织使用、审计、优先队列 |
🔧 API 与开发者体验
- •Prediction API: REST 端点 https://api.replicate.com/v1/predictions — POST 创建异步 prediction，GET /predictions/{id} 轮询，或通过官方 Python/Node 客户端流式接收。Replicate 上每个模型都通过这一统一接口调用。
- •模型版本与固定: 每个模型暴露不可变 version 哈希（如 stability-ai/sdxl:39ed52b2...）。可固定某个版本保证可复现，也可漂移到最新版——生产部署应固定版本。
- •Webhook: 可为每个 prediction 注册 webhook URL；Replicate 在运行完成后 POST 结果回调，无需轮询长时运行的视频 / 3D 任务。
- •流式输出: Diffusion 与 LLM 模型可通过 SSE 经官方客户端流式推送中间帧 / token。适合在图片任务完成前预览，或逐 token 输出 LLM 结果。
- •自带 Cog 容器: Replicate 开源的 Cog 工具可将任意自定义模型打包成 Docker 容器，一条命令部署到 Replicate 硬件上——无需自行运维基础设施即可上线新模型。
- •鉴权与 SDK: API token 在 replicate.com/account 申请；官方 Python（replicate）和 Node（@replicate/replicate）客户端，外加一套精简 REST API。无官方 Go / Java SDK；社区有包装。
- •限速: 按每账号并发软限速（默认约 10 个并发 prediction，使用历史增长可上调）。突发限制作用于 /v1/predictions POST——长视频任务占用并发池而非每分钟请求数预算。
🎬 5 万+ 社区模型，按秒 GPU 时长计费
Replicate 的招牌能力是把按秒 GPU 时长计费模式与 5 万+ 社区精选模型目录组合在一起：每个 prediction 不按 token 计费，而是按底层硬件（A100 40GB / 80GB、H100、T4 等）的 GPU 运行秒数计费，模型本身是按需启动的轻量 Cog 容器。这让平台真正做到硬件灵活——7B LLM、Stable Diffusion XL 图像生成、Whisper 转写、MusicGen 音频或自定义 diffusion 权重，都通过同一个 /v1/predictions 端点调用，运行硬件由每个模型按算力需求自动选择。代价是成本可预测性差：快模型跑在廉价硬件上与慢模型跑在 H100 上，单次预测账单能差几个数量级，所以选模型直接决定单价。对跨模态（图像 / 视频 / 音频 / 3D / embedding）的原型与实验，这种广度与按需 GPU 模式无可替代；对稳定高吞吐 LLM 流量，按 token 计费的厂商通常更划算。
🌐 中国访问与延迟
Replicate 的 API（api.replicate.com）和控制台在中国大陆无法直连：域名在网络边缘被屏蔽，平台既未发布中国优化的镜像，也未提供任何官方 CN 端点。从国内访问需要稳定的海外代理 / VPN，或经第三方聚合器（SiliconFlow、OpenRouter 中部分支持 Replicate 模型的路由）中转。即便代理畅通，从中国到 api.replicate.com 的延迟通常在 300-700 ms RTT，再加上每个 prediction 本身几秒到几分钟的 GPU 运行时——图像生成 2-10 秒，视频 diffusion 30 秒到 3 分钟，3D 网格生成可达数分钟。对面向中国用户的服务生产负载，Replicate 通常是低优先级选项；自托管开源替代品（Stable Diffusion WebUI、ComfyUI 跑在国内 GPU 云，或国内多模态 API）在延迟与成本上通常更优。大部分中国团队只在原型或模型评估阶段用 Replicate，不用于生产流量。