Fireworks AI API 深度测评 2026：100+ 模型、托管微调与最强函数调用

简介

Fireworks AI 是一家总部位于旧金山的 AI 推理平台。它的三大核心差异化优势使其在 Groq、DeepInfra、Together AI 等竞争对手中脱颖而出：生产级微调、Firefunction-v2（市场上准确率最高的函数调用模型），以及涵盖 Meta Llama、阿里 Qwen、Mistral、DeepSeek 和 Google Gemma 的 广泛模型目录。

与 Groq 的专用 LPU 硬件或 Cerebras 的晶圆级芯片不同，Fireworks AI 运行在标准的 NVIDIA H100 GPU 集群上，通过自有的 FireCompiler 和 FireInfer 引擎进行优化。这意味着更广泛的模型支持、更低的冷启动延迟，以及远低于自托管解决方案的微调成本。

本测评将覆盖 Fireworks AI 的价格结构、模型目录、Firefunction-v2 能力、微调流程、免费额度、对国内开发者的可访问性，以及与 Groq、DeepInfra 和 Together AI 的全面对比。

支持的模型

Fireworks AI 托管了 100+ 模型，涵盖多种类别：

模型家族	主要模型	上下文	最佳用途
Llama（Meta）	3.3 70B, 3.3 8B, 3.1 405B	128K	通用、企业级
Qwen（阿里）	2.5 72B, 2.5 32B, QwQ-32B	128K	中文 NLP、编程
Mistral	Mixtral 8x22B, Mistral Nemo	64K	均衡、多语言
DeepSeek	V3, R1	128K	编程、推理、数学
Gemma（Google）	2 27B, 2 9B	8K	轻量、研究
Firefunction	Firefunction-v2	32K	函数调用（97.1% BFCL）
FLUX / SD	FLUX.1-Dev, SDXL, Playground v2.5	N/A	图片生成
嵌入	nomic-embed-text-v1.5, jina-embeddings-v2	N/A	RAG、语义搜索

定价

Fireworks AI 采用按 token 计费模式，不同模型层级的定价各不相同。该平台对缓存输入 token 不收费——自动提示缓存完全免费，这对于具有重复系统提示的工作负载来说极具成本效益。

大模型定价（每 1M token）

模型	输入价格	输出价格	缓存输入
Llama 3.3 70B	$0.90	$0.90	免费
Llama 3.3 8B	$0.10	$0.10	免费
Qwen 2.5 72B	$0.90	$0.90	免费
Qwen 2.5 32B	$0.50	$0.50	免费
DeepSeek V3	$0.59	$0.59	免费
Firefunction-v2	$0.90	$0.90	免费
Mixtral 8x22B	$0.60	$0.60	免费

微调定价

模型	训练成本	托管推理
Llama 3.3 8B	$1.50/1M token	前 5M token/月免费
Llama 3.3 70B	$3.00/1M token	前 5M token/月免费
Qwen 2.5 32B	$2.00/1M token	前 5M token/月免费
Qwen 2.5 72B	$3.00/1M token	前 5M token/月免费

Firefunction-v2：业界最强的函数调用

Fireworks AI 的旗舰模型 Firefunction-v2 是基于 Llama 3.3 微调的变体，在伯克利函数调用排行榜（BFCL v2）上达到了 97.1% 准确率。以下是对比数据：

• Firefunction-v2：97.1%
• GPT-4o：94.8%
• Claude 3.5 Sonnet：93.2%
• DeepSeek V3：91.5%
• Gemini 2.5 Pro：90.8%

Firefunction-v2 采用创新的双输出格式：单次 API 调用即可同时生成 JSON 函数调用和自然语言回复。这意味着 agent 可以在一次往返中同时调用函数并向用户解释结果，大幅降低了 chatbot-with-tools 架构的延迟。

该模型还支持并行函数调用（最多 10 个同时工具调用）、嵌套函数模式以及流式函数调用——在调用完成前即可流式输出部分函数参数。

托管微调

Fireworks AI 提供了市场中最易用的微调管道之一。与 Together AI（需要 CLI 工具）或 DeepInfra（不支持微调）不同，Fireworks 通过 Web UI 和 API 提供完全托管的微调体验。

微调流程

1. 准备数据：将训练数据格式化为 JSONL（messages-completions 格式，与 OpenAI 相同）
2. 上传：通过 Fireworks dashboard 或 files.create API 端点上传
3. 训练：选择基础模型、训练轮数和学习率。根据模型大小，训练通常在 15-60 分钟内完成
4. 部署：微调后的模型自动部署在 Fireworks 基础设施上，零冷启动

免费额度

Fireworks AI 为新用户提供 $25 免费额度（永不过期），比 Groq 的仅限速率限制的免费套餐更慷慨。$25 额度足以支持：

• 约 2500 万 token 的 Llama 3.3 8B 推理
• 约 14,000 张 FLUX.1-Dev 图片生成
• 一次 Llama 3.3 70B 微调（约 8K 训练 token）

免费账户的速率限制为每分钟 10 次请求和 50,000 token（Rate Limit 1）。付费账户可获得更高的速率限制和优先队列。免费额度永不过期，这使得 Fireworks 成为长期原型开发的绝佳平台。

性能与速度

指标	Fireworks AI	Groq	DeepInfra	Together AI
Llama 3.3 70B 速度	400-600 tok/s	1,200+ tok/s	300-500 tok/s	350-550 tok/s
冷启动延迟	<500ms	<10ms	<2s	<1s
微调支持	✅ 托管式	❌	❌	✅ CLI
提示缓存	✅ 免费自动	❌	❌	✅ 免费自动
函数调用模型	Firefunction-v2 97.1%	无专用	无专用	无专用

国内访问

与大多数美国 AI API 提供商一样，Fireworks AI 在中国大陆被屏蔽。API 端点 api.fireworks.ai 受 GFW 限制。国内开发者有三种选择：

• 代理/VPN：通过香港或新加坡代理路由流量。Fireworks 的 API 兼容 OpenAI 格式
• 国内直连替代方案：硅基流动提供 100+ 开源模型，¥0.4/M token。或使用 FreeModel（DeepSeek 官方合作伙伴）
• 聚合路由：通过 OpenRouter 在可用的提供商之间自动路由

优缺点

• ✅ Firefunction-v2：市场最佳函数调用模型（97.1% BFCL）
• ✅ 全托管微调 + 自动部署——无需 GPU 管理
• ✅ 免费提示缓存——自动启用，无需配置
• ✅ $25 免费额度——永不过期
• ✅ 100+ 模型（Llama、Qwen、DeepSeek、图片生成、嵌入）
• ✅ OpenAI 兼容 API——可直接替换现有代码
• ⚠️ 基础模型比 DeepInfra 贵 2-5 倍
• ⚠️ 推理速度不及 Groq（400-600 vs 1,200+ tok/s）
• ⚠️ 国内被屏蔽——需要代理
• ⚠️ 免费账户无专用 SLA

总结

Fireworks AI 在 2026 年的 AI 推理市场中占据了独特的位置。它不是最便宜的（DeepInfra 在价格上取胜），不是最快的（Groq 在速度上取胜），也不是模型最丰富的（Together AI 有更多模型）。但 Fireworks AI 是构建具有函数调用的 AI agent 的最佳平台，这归功于 Firefunction-v2 业界领先的准确率和双响应格式。

托管微调管道紧随其后是第二大价值点——能够通过一次 API 调用微调 Llama 3.3 70B 并获得自动托管推理，对于没有专用 ML 基础设施的团队来说是一个利器。

最适合：AI agent 开发者、需要自定义微调但不想管理 GPU 的团队、函数调用密集型工作负载、以及希望单一 API 同时支持大模型、图片和嵌入的开发者。