AI 代理监控接入与三档用量成本实算
已有 OpenTelemetry 导出能力的应用可直接接入多家后端,缺少埋点时可考虑轻量 SDK。按作者的示例负载,月均 1 万、10 万和 100 万条追踪的标价估算,Opik 分别约为 19、39、264 美元,Langfuse 约为 29、69、451 美元。
AI 深度解读
给 AI Agent 接监控,难点往往不在安装 SDK,而在弄清平台到底按什么收费。同样是每月 100 万次运行,有的平台算 span,有的平台算存储量,还有的平台把评分另算一笔。只比较套餐月费,很容易选错。
这篇原文用一套统一负载比较接入方式与价格,结论是优先考虑 OpenTelemetry,再按实际数据量核算成本。但作者就是 Agnost AI 的开发方,全文属于文档比较,没有做上手基准测试;其中「Opik 最便宜」的表述,也需要结合表里的数字重新理解。
接入是否容易,先看框架能输出什么
OpenTelemetry,简称 OTel,是这篇文章推荐的首选。它把一次执行拆成多个 span,也就是模型调用、工具调用等步骤的记录。框架已经能输出这些记录时,接监控通常只需要配置接收地址和认证请求头,后续更换后端也方便。
不过,「一个地址加一个请求头」只是概括。Braintrust 还需要用 x-bt-parent 指定项目;W&B Weave 要设置 wandb.entity 和 wandb.project 资源属性。Datadog 虽然支持直接通过 OTLP 接收,无须 SDK 或 Datadog Agent,但要求 span 遵循 GenAI semantic conventions 1.37+ 或 OpenInference,并设置 dd_llmobs_enabled=true。原文还提醒,记录可能要等 3 到 5 分钟才出现。
没有 OTel 的项目,可以先走 SDK。原文给出的 OpenLLMetry 安装命令是:
pip install traceloop-sdk
注意这里安装的是 traceloop-sdk,后续仍需调用 Traceloop.init();安装完成不代表业务已经被追踪。原文称它能导出到 24 个后端。Laminar 则通过 Laminar.initialize(...) 初始化,可选用 @observe(),文档宣称能自动追踪 Vercel AI SDK、OpenAI、Anthropic 和 LangChain。
代理接入改动更少,但观察范围也窄。修改模型请求的 base URL,通常只能看到模型调用,看不到完整的工具执行和 Agent 内部逻辑,还会给每次请求增加一跳。
按原文截至 2026 年 11 月 18 日的资料,Helicone 在 2026 年 3 月被 Mintlify 收购后进入维护模式,Traceloop 则宣布加入 ServiceNow。选型不能继续套用旧比较表。
先统一工作负载,价格才有可比性
作者假设一次 trace 对应一次 Agent 运行,包含:
- 1 次用户输入及其回答。
- 5 个 span:1 个 Agent span、2 次 LLM 调用、2 次工具调用。
- 约 10 KB 存储,因此 10 万条 trace 约为 1 GB。
下面是这个假设下,仅追踪、不做评估的月费,单位均为美元,未含税费和折扣:
| 平台 | 1 万条 | 10 万条 | 100 万条 |
|---|---|---|---|
| Opik Pro | 19 | 39 | 264 |
| Langfuse Core | 29 | 69 | 451 |
| Laminar | 免费 | 免费额度上限 | Starter 44 |
| Braintrust | 免费 | 免费额度上限 | Starter 36 |
| Datadog | 免费 | 年付折算 195 | 年付折算 825 |
| W&B Weave | 免费 | 免费额度上限 | 910 |
| Agnost AI,含工具事件 | 499 | 499 | 企业询价 |
Opik Pro 每月 19 美元包含 10 万个 span,之后每 10 万个加 5 美元。100 万条 trace 对应 500 万个 span,因此是 19 + 49 × 5 = 264。
Langfuse 的示例每条 trace 按 6 个 unit 计算,但原文没有解释这 6 个单位具体如何构成。Core 每月 29 美元包含 10 万个 unit,之后到 100 万按每 10 万个 8 美元计算,100 万到 1000 万按每 10 万个 7 美元计算,最终得到 451 美元。
按存储量收费的平台,在小 trace 假设下可能更便宜。
Laminar Starter 每月 30 美元含 3 GB,超出每 GB 2 美元,所以 10 GB 只需 44 美元。Braintrust Starter 免费含 1 GB,超出每 GB 4 美元,所以是 36 美元。
这两个结果都低于 Opik 的 264 美元。因此,原文「每个规模下 Opik 挂牌价最低」的结论,无法从它自己的全部套餐比较中直接推出。更准确的理解是,作者看重 Opik 的用户数、保留期和平台功能组合。
免费与低价也有条件。Laminar 免费档只有 1 个席位、保留 7 天;Pro 每月 150 美元含 10 GB,保留 6 个月。Braintrust Pro 每月 249 美元含 5 GB,超出每 GB 3 美元,示例下为 264 美元,提供 30 天保留期。
更大的变量是 trace 体积。原文提醒,长提示词、检索文档和大量工具调用,可能让单条记录增大 10 到 100 倍。按 GB、MB 收费的优势能否保住,必须拿自己的流量验证。
真正拉开账单的,可能是评分和团队条件
追踪回答「哪里发生了什么」,评估回答「这次回答是否合格」。让模型充当评委,通常还会产生评分费用和模型调用费。
Braintrust Starter 超出 1 万次免费评分后,每 1000 次收费 2.50 美元。每月给 10 万条 trace 各评一次,要增加 225 美元。Pro 超出 5 万次后,每 1000 次收费 1.50 美元;100 万次评分增加 1425 美元,加上追踪费用共 1689 美元。
Langfuse 把每次 score 也算成一个计费单位,示例便从每条 6 个 unit 变成 7 个。Laminar Signals 按输入、输出 token 收费。Datadog 和 Arize AX 虽然列出不限量评估,仍需确认评委模型的调用费由谁承担。
团队条件同样影响选择。Opik Pro 最多支持 50 个用户,保留 60 天;Langfuse Core 用户数不限,保留 90 天。LangSmith Plus 每席位每月 39 美元,套餐含 1 万条基础 trace,5 人团队的席位费用便是 195 美元。其用量改按每个 1 美元的 LangChain Standard Units 计量,原文没有给出足以直接换算全部负载的费率。
Agnost AI 则把一次对话轮次或一次工具调用算作一个 event。示例每条 trace 有 3 个 event,1 万条就会超过 Starter 的 1 万事件额度,进入每月 499 美元的 Pro。只发送对话轮次时,1 万、10 万、100 万条的费用才分别是 49、499、499 美元。
作者为它提出的价值理由,是整段对话判错以及生成经过测试的修复 PR。但原文没有给出准确率、修复成功率或节省工时的对照数据,这部分应当视为产品主张。
我的判断
这篇最有用的地方,是把接入成本、计量口径和质量评估费用放在了一起。对国内前端和全栈团队,尤其是用 Vercel AI SDK 或 Node 构建 Agent 的团队,这比直接推荐某个品牌更有参考价值。
但它还不足以形成一张可以照抄的采购榜。各档套餐的席位、保留期和能力不同,原文也没有实测接入耗时。OTel 能让数据更容易迁移,并不能据此认定各家收到的数据完整度、展示效果完全一致。
自托管同样不能只算机器钱。Langfuse 需要 web、worker 容器,以及 Postgres、ClickHouse、Redis 或 Valkey、S3 兼容存储。Opik 的 Apache-2.0、Langfuse 的 MIT 许可提供了后续选择,但部署、升级和维护仍要有人承担。
我的取舍是:先比较追踪数据能否支持排障,再比较账单。按存储量收费、按 span 收费都可以合理;决定差异的是你的真实负载,以及团队到底需要保存和评估什么。
能拿来做什么
- 给现有 Agent 连续采集一周数据,记录每次运行的 span 数、LLM 调用数、工具调用数和存储体积,再套入候选平台的计费规则。
- 使用 Vercel AI SDK 或 Node 开发时,先确认当前框架与版本的 OTel 输出能力;没有现成输出,再比较 SDK 能自动覆盖哪些调用。
- 用同一周流量试跑两个候选平台,检查一次失败能否从用户输入追到模型和工具步骤,同时核对席位与数据保留期。
- 为评估单独列预算,把平台评分费、评委模型 token 费和评估覆盖率一起核算,避免只看追踪套餐就决定上线方案。