Cloudflare AI Gateway (Cloudflare AI Gateway)

收录于 https://developers.cloudflare.com/ai-gateway/

综合排名 #10 ⭐ 可考虑
✅ 全球 CDN(国内边缘节点通过合作伙伴运营) | 🌍 国际

💰 Token 价格

类型 价格 备注
输入 (Input) 免费层: 100万次请求/月;超出 $0.20/100万次 + Provider 自身费用 每百万 tokens
输出 (Output) 按请求计费,不按 token 计;Gateway 本身加价 $0.20/100万请求 每百万 tokens
💡 免费额度

每月 100 万次请求免费(Gateway 服务费)

🤖 支持模型(共 500 个)

通过 Gateway 路由到 20+ Provider 任意模型

✨ 优势

  • 统一的 API 网关:为 20+ AI API Provider 提供单入口
  • 内置缓存、重试、负载均衡、速率限制
  • 请求日志 & 分析:调用量、错误率、延迟、花费
  • 多 Provider 策略:Fallback、A/B 测试、成本路由
  • 每月 100 万次请求免费
  • Cloudflare Workers AI 直接集成

⚠️ 不足

  • × 不提供自有模型,仅做路由
  • × 国内访问需通过第三方 Partner(Multi-cloud)模式
  • × Gateway 计费独立于 Provider,总成本 = Provider + Gateway
  • × 高级策略(A/B 测试, Fallback)需要配置
  • × Gateway 不在中国境内可直接使用(通过本地伙伴)

🎯 适合场景

多 Provider 管理的团队;需要成本监控和分析的应用;高可用架构的 API 调用层

💰 价格与方案

层级每月请求数网关服务费Provider 费用备注
免费最高 100 万$0按量计费免费额度充足,适合原型与小型应用;日志保留 1 天
按量付费(每请求)> 100 万$0.20 / 百万请求按量计费在底层 Provider 成本之上叠加固定每请求加价
Workers 付费不限随 Workers 账单按量计费AI Gateway 用量并入 Cloudflare Workers / 账户账单

🔧 API 与开发者体验

  • 统一端点: 单一 HTTPS 端点(gateway.ai.cloudflare.com/v1/<账户>/<网关>)代理 20+ 提供商的任意模型,无需改动应用代码或 SDK 即可切换提供商。
  • OpenAI 兼容: 网关遵循标准 OpenAI chat/completions 协议,OpenAI SDK 与多数 LLM 库只需更换 base-URL 即可接入。
  • 缓存与重试: 内置语义/响应缓存、对 429/5xx 错误的自动重试与请求超时,降低供应商故障影响并减少重复调用成本。
  • Fallback 与 A/B 路由: 跨供应商配置回退链、A/B 测试与成本感知路由——按网关设定策略,在失败时动态切换。
  • 可观测性: 每请求日志含 token 数、延迟、错误率与各 Provider 花费,可在仪表盘查看,也方便导出或异常告警。
  • Workers AI 集成: 与 Cloudflare Workers AI 及 Workers 运行时原生集成,可在同一部署中运行网关逻辑与边缘 AI。

🎯 多供应商网关与可观测性

Cloudflare AI Gateway 的核心价值不在模型,而是通过一个 API 对数以十计的模型供应商实现可靠性与控制力。团队将 OpenAI、Anthropic、Google、DeepSeek 及众多厂商路由到单一端点,再叠加内置缓存、自动重试与按供应商的回退链,使任何单个上游故障都不会拖垮产品。成本感知路由与 A/B 测试让你无需改码即可依据延迟、质量与价格在不同厂商间调配流量。每次调用都会记录 token 数、耗时与成本,提供原始供应商控制台所欠缺的花费可观测性。由于依托 Cloudflare 全球边缘网络,请求从最近的边缘节点就近响应、延迟低,且网关费用固定为每百万请求 $0.20(每月 100 万次免费)。对于把多家 AI API 视为可互换资源的团队,这是务实的控制平面。

🌐 中国访问与延迟

Cloudflare AI Gateway 是全球化服务,并非原生部署在中国大陆。它可通过公司的全球边缘网络从中国访问,但实际体验取决于路由与合作伙伴边缘节点——来自大陆网络的延迟通常高于且不如国内原生厂商可预测,部分部署会更倾向于通过可靠的海外线路访问网关,而非依赖理想的境内传输表现。对大陆团队而言,常见模式是把网关用作海外厂商的调度与可观测层,同时直连或通过各自大陆端点调用国内厂商(智谱、通义千问、豆包)。计费以美元并入 Cloudflare 账户,相对人民币厂商多出汇率与开票摩擦。简言之:在国际线路与港澳/骨干走廊上完全可用,但大陆优先的团队应将其视为编排层,而非主要的低延迟国内端点。