Baseten (Baseten)
综合排名 #18 ⭐ 可考虑
⚠️ 部分可用（需稳定代理连接） | 🌍 国际
💰 Token 价格
| 类型 | 价格 | 备注 |
|---|---|---|
| 输入 (Input) | Per-second GPU billing (H100: $1.89/hr, A100: $0.83/hr, L40S: $0.54/hr) | 每百万 tokens |
| 输出 (Output) | Model-dependent (inference time × GPU rate) | 每百万 tokens |
| 缓存读取 | N/A (no caching layer on hosted inference) | 享折扣 |
💡 免费额度
$30 in inference credits on signup (valid 30 days); custom model hosting free tier: 1 deployed model
🤖 支持模型（共 35 个）
Llama 3.3 70B Llama 3.1 405B Mixtral 8x22B Qwen 2.5 72B Qwen 2.5 Coder 32B DeepSeek V3 DeepSeek R1 Mistral Large 2 Phi-3.5 Medium FLUX.1 [schnell] SDXL Stable Diffusion 3.5 Large Whisper Large V3 XTTS v2 BGE Large v1.5 GTE-Qwen2 7B Any custom model (Truss)
✨ 优势
- ✓ Per-second GPU 计量，与 Replicate 同类竞品中按量计费最透明
- ✓ 支持自定义模型托管（Truss 框架），可一键部署 Hugging Face 模型
- ✓ Cold start < 1 秒（基于自研的预热池 + autoscaling）
- ✓ Dedicated Deployments 提供独占 GPU 实例，承诺 SLA
- ✓ 支持 PyTorch / TensorRT / vLLM 推理引擎，自动选择最优后端
- ✓ MCP server 支持 Claude/Cursor 集成
- ✓ 2025 年起对自部署模型免 GPU 闲置费（区别于 RunPod / Lambda Labs）
⚠️ 不足
- × 无预训练模型市场（与 Replicate 200+ 模型相比，Baseten 更偏向自部署）
- × 国内使用需稳定代理
- × Per-second 计费对小请求（< 5s）优势不明显
- × Truss 框架学习成本（vs 直接调用 HF Inference API）
- × Dedicated Deployment 起步价高于 AWS/GCP 裸机实例
🎯 适合场景
自部署开源模型（Llama / Qwen / DeepSeek）到生产 GPU；需要 Dedicated SLA 的中大规模团队；MCP 集成到 Claude / Cursor