Arize Phoenix (Arize Phoenix)

💰 价格与方案

🔧 API 与开发者体验

• •OpenTelemetry 原生: Phoenix 是 OpenTelemetry 原生 trace 后端；任意被插桩应用产生的 OTLP trace 可直接发送，无需厂商专属 SDK。
• •自动插桩: 一行 wrapper 或环境变量即可为 17+ 框架自动采集 trace：OpenAI、Anthropic、LangChain、LlamaIndex、vLLM、Ollama、DSPy 等。
• •Trace、Span 与评测: 针对 LLM 调用的深层 span/trace 浏览器，加上一流的评测工具（LLM 评判、自定义评分器、人工审核），可直接针对捕获的 trace 运行。
• •提示词 Playground: 实时迭代提示词并对比模型输出；实验追踪将提示词版本与评测分数一并记录。
• •PXI 代理（BETA）: Phoenix Intelligence 支持用自然语言查询你的 trace（如“失败在哪里激增？”），并基于你的数据给出调查结论。
• •数据集与实验中心: 平台内置版本化数据集、回归测试与实验对比，构成提示词与 RAG 变更最接近 CI/CD 的闭环。
• •开放许可与本地 UI: 自托管端为 Apache-2/Elastic-2.0 许可的服务器 + 本地 Web UI（无遥测），原始 trace 数据不会离开你的 VPC。

🧩 OpenTelemetry 原生的 LLM 可观测性

Arize Phoenix 的独特之处在于它是少数几个直接构建在 OpenTelemetry 标准之上、而非私有插桩格式的 LLM 可观测性平台。团队已发出的 OTLP trace 可立即接入 Phoenix，或通过一行式自动插桩覆盖 17+ 框架——无需重构技术栈、也无需绑定厂商 SDK。这意味着服务于通用微服务的同一条 trace 管道，同样可以支撑深入的 LLM 分析：span 树、每次调用的 token/成本、提示词-补全对，以及 RAG 管道的检索质量。 Phoenix 将评测直接并入可观测性闭环。与其把 trace 导出到一个工具、再在另一个工具里跑评测，不如直接在 Phoenix 中采集 trace、用 LLM 评判或自定义评分器打分、记录数据集并在同一处迭代提示词。可选的 PXI 代理还能对整个语料进行自然语言调查。再加上 Elastic-2.0 开源的自托管选项，它以极小的厂商锁定成本提供生产级 tracing、评测与实验追踪——非常适合构建内部 LLM 基础设施的平台团队。

🌐 中国访问与延迟

Arize Phoenix 对中国团队有明确优势：核心产品开源且可自托管，大陆团队可在国内云或本地部署 Phoenix 服务器，无需代理访问任何海外 SaaS。自托管服务器自带 Apache-2/Elastic-2.0 许可的本地 Web UI，不产生外部遥测，trace 数据留在 VPC 内部——非常适合受中国数据驻留规则约束的合规敏感负载。作为可观测性后端而非托管模型 API，它没有按 token 的出站成本，也不存在提供方边缘针对中国的限流。 权衡之处仅在于使用 Phoenix Cloud（托管于海外的 SaaS）时：从大陆访问需要 VPN 或海外中转，典型额外延迟约数百毫秒。若想要托管体验又需要中国可访问路径，标准做法是把 Phoenix 自托管在国内云上并让客户端本地连接，这样延迟接近于零。