IBM watsonx.ai (IBM watsonx.ai)
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | Per-1M-token pricing ranges from $0.06 (Granite 4 H Small input) to $3.00 (Mistral Large / Mistral Medium 2505) | 每百万 tokens |
| 输出 (Output) | Per-1M-token output pricing ranges from $0.10 (Granite Guardian 2B / Llama 3.2 1B) to $10.00 (Mistral Large / Mistral Medium 2505) | 每百万 tokens |
新账户通过 IBM Cloud 注册可获得试用积分（具体数额视活动期而定），Lite 计划支持有限的免费调用额度用于模型评估
🤖 支持模型（共 28 个）
✨ 优势
- ✓ Granite 4.2 系列（2026-08-25 发布）：3B / 8B / 30B 三档，原生链式思考（thinking）能力 + 工具调用 + 128K 上下文（可扩展至 512K），Apache 2.0 开源
- ✓ 28 个 Foundation Model：IBM Granite（自有）+ Meta Llama（1B-90B）+ Mistral（Small / Medium / Large / Pixtral）+ OpenAI gpt-oss-120B + Google Flan-T5 + SDAIA Allam
- ✓ Granite Speech 5.0 Turbo CTC：470M 参数的语音识别模型，CTC 架构，适合终端/边缘部署
- ✓ Enterprise 合规：HIPAA / FedRAMP / Financial Services Validated / EU Supported 多重认证，支持客户机房本地部署
- ✓ 128K-512K 长上下文：Mistral Large 131K、Llama 3.2 11B/90B Vision 128K、Granite 4.2 128K 原生 + 512K 扩展
- ✓ Watsonx.ai Runtime 集成 watsonx Orchestrate / watsonx Governance / watsonx Data：企业级 Agentic 工作流编排 + 数据治理 + 审计追踪
⚠️ 不足
- × IBM Cloud IAM 鉴权比 OpenAI API Key 复杂：需先 exchange API Key 为 Bearer Token 才能调用 ml/v1 接口（增加 ~50ms 鉴权开销）
- × 28 个模型数量远少于 Eden AI（1,009）/ OpenRouter（400+）/ Cloudflare AI Gateway（聚合所有 Workers AI 模型）
- × 中国大陆访问主端点需海外出口（200-400ms），无 ICP 备案或国内镜像
- × 无月费免费层，新用户需先注册 IBM Cloud 才能获取试用积分
- × Mistral Large 定价（$3/$10）比 OpenRouter 转发 Mistral Large 显著偏贵，不适合追求极致低价的纯 LLM 调用
- × Granite Speech 5.0 仅支持英文/部分语言，且在 watsonx.ai 平台的 SLA 不如 OpenAI Whisper 明确
🎯 适合场景
Enterprise agentic workflows with strict compliance requirements (HIPAA / FedRAMP / FS Validated); on-prem deployment on IBM Z / LinuxONE; hybrid Granite + Llama + Mistral multi-model strategy; long-context (128K-512K) RAG pipelines; speech-to-text on edge devices
💰 价格与方案
| 模型 | 输入 ($/百万) | 输出 ($/百万) | 上下文 |
|---|---|---|---|
| IBM Granite 4 H Small | $0.06 | $0.25 | 20K |
| Granite Guardian 3.2 2B / Granite Vision 3.2 2B / Llama 3.2 1B | $0.10 | $0.10 | 8K-128K |
| Llama 3.2 3B Instruct | $0.15 | $0.15 | 128K |
| Granite 3 8B / Granite 3.3 8B / Granite Guardian 3.3 8B | $0.20 | $0.20 | 8K |
| OpenAI gpt-oss-120B | $0.15 | $0.60 | 8K |
| Llama 3.3 70B Instruct | $0.71 | $0.71 | 128K |
| Llama 4 Maverick 17B | $0.35 | $1.40 | 128K |
| Granite 13B Chat / 13B Instruct | $0.60 | $0.60 | 8K |
| Mistral Small 2503 / Small 3.1 24B | $0.10 | $0.30 | 32K |
| Mistral Large / Mistral Medium 2505 | $3.00 | $10.00 | 128K-131K |
🔧 API 与开发者体验
- •Base URL: https://{region}.ml.cloud.ibm.com（区域：us-south / us-east / eu-de / eu-gb）
- •Chat Completions: POST /ml/v1/text/chat（OpenAI 兼容 payload + IBM 特有参数）
- •Text Generation: POST /ml/v1/text/generation（遗留端点）
- •列出 Foundation Models: GET /ml/v1/foundation_model_specs（返回全部 28 个模型及能力）
- •Embeddings: POST /ml/v1/embeddings（Granite + Slate 嵌入模型）
- •鉴权: IBM Cloud IAM API Key → 通过 POST /identity/token 换取 Bearer Token（约 50ms 鉴权开销，token TTL 1 小时）
- •Python SDK: PyPI ibm-watsonx-ai（pip install ibm-watsonx-ai）；同时提供 Node.js SDK
- •流式输出: 支持（/ml/v1/text/chat_stream Server-Sent Events）
🏢 企业级合规与本地化
IBM watsonx.ai 开箱即支持五项企业级合规认证：HIPAA Enabled（美国医疗）、FedRAMP Moderate（美国联邦机构）、Financial Services Validated（银行/保险 FS 准备）、EU Supported（eu-de/eu-gb 区域满足 GDPR + EU AI Act 数据驻留）、IAM-enabled（细粒度角色访问）。Enterprise 计划支持在 IBM Z（z16/z17）和 LinuxONE（III/IV）大型机上私有化部署。Granite 4.2 系列（2026-08-25 发布）专为 Agentic 工作流打造——8B 和 30B 模型增加推理增强的工具调用，通过多阶段 RL（基础 RL + Agentic RL + RLHF）在 CoreWeave 托管的 NVIDIA GB200 NVL72 集群训练。配合 watsonx Orchestrate（编排）、watsonx Governance（风险管理）、watsonx.data（湖仓），watsonx.ai 定位为合规优先的 Foundation Model 平台，而非通用 LLM 聚合网关。
🌐 区域可用性与延迟
IBM watsonx.ai 暴露四个生产区域：us-south（德州达拉斯）、us-east（华盛顿特区）、eu-de（德国法兰克福）、eu-gb（英国伦敦）。每个区域运行独立的 ml.cloud.ibm.com 端点，提供完整的数据驻留——来自 eu-de 的流量永远不会离开欧盟，满足 GDPR 第 44 条传输影响评估。模型层不支持跨区域路由；必须在 IBM Cloud 项目创建时选定区域。中国大陆访问需要海外出口（200-400ms 实测往返）。IBM 没有运营中国国内 ICP 备案的镜像，因此为中国用户提供生产服务的负载应与国内 Provider（火山方舟、硅基流动或 FreeModel）配合使用。Enterprise 计划解锁在 IBM Z16/Z17 和 LinuxONE III/IV 上的本地化部署能力，让受监管的银行和医疗机构可在自有机房内完整运行 Granite 4.2，无需任何互联网出口。