LongCat-2.0 1.6T MoE:自托管 vs 公有 API(2026 价格)
2026 年 7 月 4 日,美团 LongCat 团队以 MIT 协议开源了 LongCat-2.0 的完整权重与推理代码——一个 1.6 万亿参数的混合专家(MoE)模型,每次前向激活约 480 亿参数,支持 100 万 token 上下文窗口。这就是几日前以「Owl Alpha」之名登陆 OpenRouter 的同一个模型,现在成了无需附加商业协议即可获取的最大规模全开源 MoE 语言模型。
对于在自托管 LongCat-2.0、通过 OpenRouter 路由、与使用 DeepSeek V3 等更便宜的稠密模型之间做选择的开发者,本文覆盖成本账、GPU 硬件需求、API 接口、以及 LongCat-2.0「1.6T 总参 / 48B 激活 / 1M 上下文」组合真正适用的真实业务场景。
2026 年 7 月 4 日美团到底发了什么
7 月 4 日的发布是 LongCat-2.0 两步上线中的第二步。第一步是 6 月底以「Owl Alpha」代号登陆 OpenRouter,任何持有 OpenRouter API Key 的用户都能调用,但权重尚未公开。第二步就是完整的开源发布:
- 权重——1.6T 总参 / 48B 激活的 MoE 模型,BF16 与 INT4 量化检查点托管在 Hugging Face
meituan-longcat/LongCat-2.0。 - 推理代码——GitHub
github.com/meituan-longcat/LongCat-2.0提供 vLLM 兼容的 serving 栈,包含 8x H100 / 8x H200 节点的张量并行配置。 - 分词器 + 评测套件——标准 BPE 分词器加上发布公告中使用的 MMLU、GSM8K、HumanEval、LongBench v2 评测脚本。
- 许可证——所有产物均为 MIT,无商业限制条款,无单独的「仅研究」分级。这把 LongCat-2.0 放在了与 Meta Llama、Mistral 开源模型同一许可证梯队,但比 Llama 社区许可证的 7 亿用户门槛更宽松。
1.6T 总参数 + MoE 路由仅激活 ~48B 的组合是模型经济性上的关键设计点。总知识容量与闭源旗舰同梯队(GPT-5.6 据传 2T,Claude Sonnet 5 未披露),但推理成本由 48B 激活数封顶,而不是 1.6T 的标题数字。
自托管 LongCat-2.0:硬件、成本与回本临界点
1.6T 的标题数字脱离上下文会误导。自托管完整的未量化模型用 BF16 需要约 3.2 TB 显存——多机柜部署,单节点无法承载。实际生产路径分三个层级:
| 部署层级 | 硬件 | 显存 | 吞吐量 |
|---|---|---|---|
| INT4 量化完整模型 | 8× H100 80GB 或 4× H200 141GB | ~800 GB | ~120 tok/s/用户 @ 50 并发 |
| BF16 完整模型(推荐) | 16× H100 80GB 或 8× H200 141GB | ~3.2 TB | ~240 tok/s/用户 @ 50 并发 |
| LongCat-2-140B 蒸馏 | 4× H100 80GB 或 2× H200 141GB | ~280 GB | ~180 tok/s/用户 @ 30 并发 |
| LongCat-2-70B 蒸馏 | 2× H100 80GB 或 1× H200 141GB | ~140 GB | ~200 tok/s/用户 @ 20 并发 |
按云厂商 spot 价格(RunPod、Lambda Labs、CoreWeave),8x H100 SXM 节点每小时 $24-32。BF16 完整模型部署需要 16x H100,成本翻倍到 $48-64/小时。7x24 生产部署月账单 $35,000-$47,000(不含电力与工程时间)。单位经济性只有当持续利用率保持在 50-60% 以上时才优于公开 API。
回本临界点计算:$28/小时的 8x H100 节点,输出 token 单位成本(假设 240 tok/s/用户、50 并发用户——满载)约 $0.0006。30% 利用率下单位成本升至 $0.0021/1K token。OpenRouter 公开路由 $2.40/M 输出 = $0.0024/1K token。自托管在约 58% 持续利用率时与公开 API 打平。低于这个数字,公开 API 更便宜。
通过 OpenRouter 用 LongCat-2.0:零基础设施
不想管 GPU 集群的团队,LongCat-2.0 已在 OpenRouter 上线,模型 ID meituan/longcat-2-0-1.6t-moe。预览期的 Owl Alpha 与开源后是同一个模型——区别只是现在还能下载自托管。
- 输入价:$0.60 / 1M token(约 $0.0006 / 1K)
- 输出价:$2.40 / 1M token(约 $0.0024 / 1K)
- 上下文窗口:1,000,000 token
- 工具调用:OpenAI 兼容 schema,Chat Completions 客户端即插即用
- 吞吐量:服务商管理,未公开 rate-limit 头
定价约为 OpenRouter 上 DeepSeek V3 $0.27/M 输入的 2.2 倍,反映 LongCat-2.0 更高的激活参数(48B vs 21B)。1M 上下文窗口是负载的场景,溢价合理——通用对话负载(128K 以下上下文)DeepSeek V3 仍是更便宜的路径。
LongCat-2.0 vs DeepSeek V3 vs Llama 3.1 405B:成本与能力矩阵
| 维度 | LongCat-2.0 | DeepSeek V3 | Llama 3.1 405B |
|---|---|---|---|
| 总参数 | 1.6T | 671B | 405B(稠密) |
| 单 token 激活 | ~48B | ~21B | 405B |
| 上下文窗口 | 1M | 128K | 128K |
| 许可证 | MIT | MIT(自定义) | Llama 社区 |
| OpenRouter 输入 $/M | $0.60 | $0.27 | $3.50 |
| OpenRouter 输出 $/M | $2.40 | $1.10 | $3.50 |
| 自托管最小显存(BF16) | ~3.2 TB(多节点) | ~1.4 TB(8× H100) | ~810 GB(4× H100) |
| MMLU(官方) | 88.4 | 88.5 | 88.6 |
| HumanEval(官方) | 86.2 | 82.6 | 89.0 |
| LongBench v2(长上下文) | 62.1 | 48.7 | 46.2 |
数字讲一个清晰的故事:LongCat-2.0 在通用基准上与领先者差距在 0.5 分以内,但在长上下文负载上碾压(LongBench v2 62.1 vs 48.7,领先 13.4 分)。对长文档 RAG、代码库分析、超出 128K 的多轮 agent 循环,LongCat-2.0 是 2026 年 7 月最强的开源选项。
自托管实操:30 分钟 RunPod 部署
LongCat GitHub 仓库的参考部署使用 vLLM 0.7+ 与张量并行。8x H100 单节点 INT4 量化部署的步骤:
# 1. 拉取推理仓库
git clone https://github.com/meituan-longcat/LongCat-2.0.git
cd LongCat-2.0
# 2. 从 Hugging Face 拉取 INT4 量化权重
pip install -U huggingface_hub
huggingface-cli download meituan-longcat/LongCat-2.0 --include "longcat-2-int4/*" --local-dir ./weights-int4
# 3. 启动 vLLM,8 卡张量并行
vllm serve ./weights-int4/longcat-2-int4 --tensor-parallel-size 8 --max-model-len 1000000 --gpu-memory-utilization 0.92 --tool-call-parser longcat --enable-auto-tool-choice --port 8000
# 4. curl 测试
curl http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{
"model": "longcat-2-int4",
"messages": [{"role":"user","content":"用中文打个招呼"}],
"max_tokens": 200
}'
部署跑成 OpenAI 兼容端点,任何支持 Chat Completions schema 的客户端(LangChain、LlamaIndex、OpenAI SDK 自定义 base_url)零代码改动即可使用。这就是 OpenRouter 路径与自托管路径在应用代码层面功能等价的原因。
什么时候选哪条路径
- 选 OpenRouter($0.60/$2.40 每 M)——负载波动大、原型阶段、持续利用率低于 50%。回本临界点约在持续利用率 58%,低于此公开 API 更便宜。
- 选 RunPod / Lambda / CoreWeave 自托管——高负载(日均 50M+ token)、延迟敏感(TTFB < 100ms)、或数据驻留规则禁止路由经第三方。8x H100 INT4 是保持质量的最低成本自托管配置。
- 选 DeepSeek V3——上下文窗口 128K 以内、单 token 成本优先。DeepSeek V3 比 LongCat-2.0 在公开 API 上便宜 2.2 倍,且无需自托管就有成本优势。
- 选 Llama 3.1 405B——需要稠密模型确定性(无 MoE 路由方差)、能接受 OpenRouter 5.8 倍溢价。Llama 3.1 405B 仍是可信生产工具链最完备的稠密开源模型。
- 选 Anthropic Claude Sonnet 5 / OpenAI GPT-5.6——负载需要 agent 工具调用或 computer-use 绝对前沿。LongCat-2.0 有竞争力但在 OSWorld-Verified 或 BrowseComp 上不是 SOTA。
7 月 4 日发布的局限性
把 LongCat-2.0 当作生产骨干之前有三件事必须知道:
- 不支持多模态输入。LongCat-2.0 是纯文本模型。图文 / 视频输入仍需 Gemini Omni Flash、Claude Sonnet 5 vision 或 Qwen-VL-Plus。截至 2026 年 7 月 6 日美团未公布多模态变体。
- 未发布 function-calling 基准。推理仓库声称支持 OpenAI 兼容工具调用,但美团未公开 BFCL 或 ToolBench 分数。工具调用可靠性在社区评测出炉前视为未验证。
- INT4 质量下降。INT4 量化版(唯一能塞进单 8x H100 节点的版本)相比 BF16 完整模型大约掉 2-3 MMLU 分。对 88.4 MMLU 底线敏感的负载,BF16 多节点部署不可妥协。
结论:强力的长上下文开源选项,不是万能替代
美团 LongCat-2.0 是 2026 年迄今最可信的开源 MoE 发布。MIT 协议是真正的(无商业条款),1.6T 总参 / 48B 激活的拆分让其在运营成本上与 DeepSeek V3 同梯队,尽管标题数字更大,1M 上下文窗口解锁了 128K 梯队开源模型一直卡住的场景。两个蒸馏变体(70B 和 140B)提供单节点与双节点部署选项,适合预算受限的团队。
对长上下文 RAG、完整代码库分析、多小时文档处理,LongCat-2.0 是 2026 年 7 月最强的开源权重选择。对 128K 以内通用对话,DeepSeek V3 更便宜、更简单。对 SOTA agent 工具调用,闭源旗舰(Claude Sonnet 5、GPT-5.6 Pro)仍领先。2026 年中聪明的生产架构是多模型路由器——OpenRouter 上 LongCat-2.0 跑长上下文流量、DeepSeek V3 跑通用对话、Claude Sonnet 5 处理最难 5% 负载。这正是 FreeModel API 网关 开箱即用的路由模式,不想自己写路由层的团队可以直接用。