OVHcloud AI Endpoints 到底是什么

OVHcloud 是一家从 1999 年就开始自建机房的法国云厂商。AI Endpoints 是它的无服务器推理产品：从模型目录里挑一个模型，在公有云项目里创建 API 密钥，然后用兼容 OpenAI 规范的 HTTP 接口调用。不需要开机、不需要选容器规格、不需要保持端点常驻。

我在本站已经核过十几家兼容 OpenAI 接口的网关，这家有两处不一样。第一，它是基础设施的自有方在运营，不是转售别人的算力 —— 推理跑在 OVHcloud 自家的法国 Gravelines 机房。第二，价目表是厂商自己按 EUR 公开标注的，按模型、按百万 token，写在公开页面上。这句听上去平平无奇，直到你真的去给欧洲推理询价：我看过的大多数欧洲主权 AI 方案，最后一步都是让你联系销售。

模型目录：你实际能调到什么

目录页在 2026-09-18 显示 20 个条目，可按任务筛选（大模型、推理、视觉、嵌入、语音转文字、图像生成、内容审核、语音合成）。以下是按厂商价目表逐条誊写的当前阵容，EUR 目录价与 USD 价目并列：

价格于 2026-09-18 誊自 OVHcloud 公开目录页（EUR，不含税）与公有云价目页（USD，不含税）。Whisper 的 EUR 单价按秒计费，USD 列显示厂商自己给出的每小时等价价。最后核验日期 2026-09-18。

把这张表当数据读而不是当宣传读，有三点值得记下来：

• gpt-oss-120b 报 €0.08 / €0.40 每百万，是清单上最便宜的像样推理模型 —— 输入价比所有 Qwen 与 Mistral 条目都低，而参数规模是 117B 且支持推理。
• Qwen3.5 / 3.6 / 3.8 三代在同一尺寸档内报价完全一致（两个 27B 变体都是 0.40 / 2.70，9B 是 0.10 / 0.15）。你选最新快照不会被加价，但也拿不到任何优惠。
• 多模态 Qwen 档位的输出单价是输入的 4 到 7 倍，廉价推理档大约 2.5 倍。做预算时，这个比值比首页那个输入价重要得多。

四个入口：Base、Batch、Playground、匿名档

OVHcloud 把访问方式分成四档，差异写得很具体，可以直接据此做规划：

Batch 目前处于为期两个月的 Beta，期间免费，文档记载的正式版价格是 Base 费率的一半。工作流沿用 OpenAI Batch 的形状：写一个 JSONL 文件，每行一条请求；通过 Files API 以 purpose="batch" 上传；创建 batch 引用该文件与目标端点；轮询到 completed 后下载输出文件。completion_window 参数接受 "24h"，并且可以直接把 OpenAI 官方 Python / TypeScript SDK 的 base_url 指过来复用。

有两个 Batch 细节值得读两遍，因为异步任务正是最容易出问题的地方：

• 超时是终态。超过 24 小时窗口的批次会进入 expired 状态，并且不会自动重试，必须重新提交。任何带外部交付期限的流水线都要把这个算进去。
• 只对成功的请求计费。内部错误与窗口结束前未被处理到的请求不收费。叠加免费 Beta，第一次做批量实验的下行风险接近于零。

另外两个入口是大多数评测会跳过的。Playground 可以免费试所有目录模型，但大模型在该界面里的输出被限制在 1024 token —— 用来验证提示词结构足够，用来评估长文生成不够。此外还有一个匿名档：不用 API 密钥，每 IP 每模型 2 请求/分钟。这足够在 CI 容器里先跑通 curl 链路再决定是否开通，也是为什么你不该凭一次 429 就断言服务挂了。

从代码接入

因为兼容 OpenAI 规范，迁移就是换端点和模型名。官方文档给出的形状是这样：

export OVH_AI_ENDPOINTS_ACCESS_TOKEN="your...curl -X POST https://oai.endpoints.kepler.ai.cloud.ovh.net/v1/chat/completions   -H "Authorization: Bearer $OVH_A...EN"   -H "Content-Type: application/json"   -d '{ "model": "gpt-oss-120b", "messages": [{"role": "user", "content": "Summarise this changelog in five bullets."}] }'

请求头与载荷来自 OVHcloud AI Endpoints 快速上手文档（最后更新 2026-03-19）。上线前请以你自己项目 AI Endpoints 页面上的端点为准 —— OVHcloud 会从多个主机名提供同一套 API，控制台才是你项目的权威来源。

Python 侧就是标准 OpenAI 客户端加两处替换：

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://oai.endpoints.kepler.ai.cloud.ovh.net/v1",
    api_key=os.environ["OVH_AI_ENDPOINTS_ACCESS_TOKEN"],
)

resp = client.chat.completions.create(
    model="Qwen3.5-397B-A17B",
    messages=[{"role": "user", "content": "List the three highest-impact changes in this diff."}],
)
print(resp.choices[0].message.content)

如果你本来就在用另一家兼容 OpenAI 的服务，你的改动是两行。兼容性论证整个就这么长，而且确实站得住 —— 它意味着你可以在不重写 SDK 集成的前提下，把欧洲端点与现有供应商做 A/B。

功能支持：有什么，没有什么

平台的能力说明页写得相当坦白，可以直接引用而不必当成宣传文案。已支持：JSON 模式（保证输出语法合法的 JSON）、函数调用（tools）、结构化输出（按 JSON Schema 强制约束）。同时文档写明：控制台可按模型查看调用次数与输入输出 token 等指标；API 密钥按项目发放，可设置有效期。

限制同样具体：

• 速率限制：匿名档每 IP 每模型 2 请求/分钟；带密钥每公有云项目每模型 400 请求/分钟。超限返回 429。
• 请求体大小：多数端点限制为 2 MB；视觉大模型放宽到 10 MB；语音转写端点另有一套按模型的限制。
• 没有用量上限：当前 API 密钥既无消费上限也无 token 上限。能力页说明用量限制功能在考虑中。在它上线之前，挡在失控循环和你的账单之间的只有你自己的客户端预算逻辑。

最后这点值得强调。在一个没有用量上限的平台上，后台 worker 里一个重试循环不是可以慢慢修的 bug —— 它是一笔没有封顶的账单。请在调用代码里写死 token 预算，并在每次提交批次之前检查它。

真正的差异化：数据放在哪里

任何兼容 OpenAI 的网关都能宣称兼容。能清楚告诉你推理跑在哪、载荷怎么处理的不多。OVHcloud 的回答很具体：基础设施位于法国 Gravelines，平台声明模型使用期间与使用之后都不存储、不共享数据，服务由《OVHcloud 公有云特别条款》附录 10「AI Endpoints 专门条款」约束，而不是套一份通用协议。

对一家有欧盟数据驻留要求的团队来说，这才是承重的事实。它也是你该自己去核而不是从评测里抄的一条：打开文档里链接的那份合同附录，确认它与你自己法务的理解一致。我这里报告的是 OVHcloud 公开的表述，不是替它背书认证。

没人提的坑：模型生命周期与那个 404

这是我会在内审里放在第一条的运营风险，而它写在大多数买家根本不会打开的页面上。OVHcloud 有一套正式的下线流程：

1. 用量监控识别出使用率过低的模型。
2. 退役决定通过邮件发给账单联系人，并同步到 OVHcloud Discord 的 #ai-news 频道。
3. 随后是三个月的宽限期，期间模型仍能响应，但会从公开目录里隐藏。
4. 宽限期结束，模型从 API 移除，新请求返回 404。

当前已公开的下线表如下：

来源：OVHcloud《AI Endpoints – Billing and lifecycle》，最后更新 2026-08-04。Qwen3-32B 的窗口已在 2026-09-16 关闭，即已经下架。最后核验日期 2026-09-18。

把第二列与第三列连起来读。注意 Mistral-Small-3.2-24B-Instruct-2506 已经在下线名单上，同时仍然出现在实时价目表里，标着 $0.10/$0.31。如果你上个月只看价格选了它，你现在到 2026-11-04 为止要完成迁移。价目页不会提醒你，生命周期页会。

还有一个文档自己点出来的邮件送达注意事项：通知只发给 OVHcloud 账户的账单联系人。如果真正跑推理的团队用的账户和付费账户不是同一个，那个团队什么都收不到。补救方式是在控制台的消息设置里把工程师地址加为额外联系人，或者让团队订阅 Discord 的 #ai-news 频道。两种都行；两种都不做，就意味着在生产环境里发现 404。

算笔账：什么情况下比你现在用的便宜

两段按已核验费率做的计算。想说明的不是 OVHcloud 普遍更便宜 —— 它并不是 —— 而是它在特定形状上赢得干净。

场景一：英文文档的高吞吐批量分类。每月处理 5 万份短文档，平均每份 800 输入 token、120 输出 token。

• 模型：gpt-oss-120b，Base 价 €0.08 / €0.40 每百万。
• 输入：50,000 × 800 = 4,000 万 token，即 40 × €0.08 = €3.20
• 输出：50,000 × 120 = 600 万 token，即 6 × €0.40 = €2.40
• Base 合计：€5.60 / 月。走 Batch 按文档记载的五折：€2.80。

关键结论不是总额，而是这个规模的作业恰好完全落在 Batch 的形状里（异步、不需要亚秒延迟、行数少于 5 万、文件远小于 200 MB），所以折扣可以拿，且不需要任何架构妥协。

场景二：262K 长上下文上的编码辅助。假设每月 2,000 次调用，每次 6 万输入 token、4,000 输出 token，模型用 Qwen3.5-397B-A17B（€0.60 / €3.60 每百万）。

• 输入：2,000 × 60,000 = 1.2 亿 token，即 120 × €0.60 = €72.00
• 输出：2,000 × 4,000 = 800 万 token，即 8 × €3.60 = €28.80
• 合计：€100.80 / 月，尚未计入批量折扣。

切换之前请把同样的算式套在你当前供应商上。这个形状里输出费率占主导，而 OVHcloud 的输出费率并不是市场上最低的。它真正赢的场景是：数据驻留本身是硬要求，而替代方案是把端点放在美国再走一次合规例外。

局限，直说

• 目录窄。20 个模型，没有前沿闭源大模型。如果你要最新的闭源旗舰，这里拿不到 —— 这里是开源权重加上语音、嵌入这一层，再加上 Qwen 的最新一代。
• 区域标注是 WW（除美国）。这是 OVHcloud 自己在 Batch 对比表上的措辞。如果美国境内推理是硬性要求，这一条直接排除。
• API 密钥没有用量上限 —— 没有消费上限也没有 token 上限，只有客户端侧的预算管理。
• Playground 的 1024 token 上限让免费层适合验证提示词结构，不适合评估输出质量。
• 图像生成不在 OpenAI 兼容承诺范围内，且当前价目列为 0；在看清商业条款之前按非生产用途对待。
• Batch 仍是 Beta。价目写的是正式版五折。现在是免费，但请为收费的那天做好规划。
• 缺少 Claude 系列模型。如果你的技术栈绑定某一家的模型家族而不只是兼容接口，这个平台不提供。

适合谁

适合：有数据驻留或采购合规要求、当前用美国托管的兼容 OpenAI 端点并为合规付出额外成本的欧洲团队。批量与嵌入类工作负载 —— 文档分类、知识库向量化、数据集准备 —— 这类场景下吞吐比延迟重要，尤其在免费 Beta 期间。想要一个供应商同时覆盖大模型、嵌入、语音转写、内容审核与语音合成，并且只有一份价目表、一份合同附录的团队。

不适合：需要前沿闭源模型或最广目录、并且对美国端点没有顾虑的团队。强制要求美国境内推理的工作负载。无法容忍排队等待的实时工作负载。以及期望超时自动重试的团队 —— Batch 的 expired 是终态，重试逻辑要你自己写。

常见问题

来源

• OVHcloud《AI Endpoints – Getting started》（docs.ovhcloud.com，最后更新 2026-03-19）—— 密钥流程、速率限制、OpenAI 兼容性
• OVHcloud《AI Endpoints – Billing and lifecycle》（最后更新 2026-08-04）—— 下线表与三个月宽限期
• OVHcloud《AI Endpoints – Features, Capabilities and Limitations》（最后更新 2026-02-03）—— JSON 模式、函数调用、载荷与速率限制、无用量上限
• OVHcloud《AI Endpoints – Batch API》（labs.ovhcloud.com）—— Beta 条款、正式版五折、FAQ、OpenAI Batch 兼容性
• OVHcloud AI Endpoints 目录页（ovhcloud.com/en/public-cloud/ai-endpoints/catalog/）—— EUR 按模型费率，2026-09-18 誊写
• OVHcloud 公有云价目页 AI & Machine Learning 板块 —— USD 费率与语音转写的每小时等价价，2026-09-18 誊写