Ora 在 Vercel 上搭建了 AI Agent 评测基础设施,评测真实网站注册、集成、支付等任务,发现 99% 网站尚未对 Agent 友好,揭示了当前 Agent 落地的主要瓶颈在网页可操作性而非模型能力。
Ora on Vercel
前端、后端和 Agent 运行时统一在同一个平台
前端、后端和 Agent 运行时统一在同一个平台
所有主流 Agent 在真实网站上同台测试
所有主流 Agent 在真实网站上同台测试
一支 16 人工程团队每天处理数百次提交
一支 16 人工程团队每天处理数百次提交
Ora 将 Agent 投放到真实网站,让它们完成注册产品、集成产品、支付产品的任务。Agent 经常失败,据 Ora 估计,99% 的网站还没有为 Agent 做好准备。该平台向客户展示 Agent 在哪里失败、为什么失败,以及需要改什么。
Assaf Elovic 是 Ora 的联合创始人,多年来一直致力于帮助 Agent 发现网络。他之前的公司 Tavily 为 AI Agent 打造了一款网络搜索引擎,于今年早些时候被 Nebius 收购。搜索解决了一半的问题,但找到产品的 Agent 仍然需要真正使用它。他和联合创始人 Liad Yosef 创立了 Ora,来衡量网络对 Agent 的准备程度,并修复那些还不够完善的部分。
如今,这意味着从 journey.ora.ai 向客户网站生成 Agent,在那里 Ora 运行一个 journey 并记录 Agent 完成一项任务所需的成本、延迟和步骤。该平台运行在 Vercel 上,包括 Agent 运行时。
Agent 分解为两个部分:执行推理的模型,和赋予模型工具并驱动其逐步执行的软件——harness。Ora 的阵容覆盖了客户最常用的 Agent:Claude Code、ChatGPT、Gemini、Hermes、OpenClaw,以及 Vercel 的 Agent 框架 eve。Ora 在客户的网站上运行每个 Agent,观察它如何处理常见的工作流。
没有任何两个 harness 想要相同的基础设施。每个都期望自己的环境,并以不同的方式暴露其步骤,因此 Ora 为每个 harness 运行独立的运行时,并追踪每一步。Ora 工程负责人 Ido Finder 称这种同台覆盖是 Ora 为客户带来的最有价值的东西之一。
当一个 Agent 在注册流程中停滞时,客户可以看到它在哪一步、尝试了什么。没有追踪,结果只是一个分数,背后什么都没有。
Ora 完全在 Vercel 上构建了这套测试系统。前端、后端和 Agent 运行时共享同一条部署路径、日志和认证。Agent 运行时不是需要独立运维的基础设施;它就运行在产品其余部分所在的地方。
Vercel 推出 eve 时,Ora 没有给它任何特殊待遇。eve 与其他所有 harness 在相同的条件下经历相同的基准测试。Ora 与 Vercel 工程团队作为设计合作伙伴合作,Finder 让 eve 团队直接访问该平台,深入研究结果。
初始测试让 eve 与 Claude Code 在多个域的数百个真实 journey 上对决。两个 harness 运行相同的模型:Claude Fable 5 和 Haiku 4.5,每次运行都给予 Agent 相同的任务:集成一个产品。
Ora 发布了对比的三个数字:
达到目标的步数减少 7%
达到目标的步数减少 7%
原生成功率提升 2 倍:更多任务在客户自己的网站上完成,而不是回退到网络搜索
原生成功率提升 2 倍:更多任务在客户自己的网站上完成,而不是回退到网络搜索
有效端点增加 9%:Agent 发现的可实际调用的端点更多
有效端点增加 9%:Agent 发现的可实际调用的端点更多
基准测试也反馈到了 eve。一次运行发现了一个 prompt 缓存问题,eve 团队发布了修复,Ora 下一轮的结果测量到总成本降低约 15%。
对于一家以评测所有主流 harness 为业的公司来说,这不是个随意的选择。在看到这些结果后,Ora 基于 eve 构建。
因为 eve 遵循 Next.js 范式,几乎不需要配置,工具、技能和连接器用很少的代码就能实现。决定性特性是沙箱覆盖。像 eve 这样的 Agent 框架自带沙箱——那是 Agent 执行、运行工具和操作文件的隔离环境。对大多数团队来说这是一个很好的默认选择,因为可以获得免费的安全执行。但处于框架自身沙箱中的 Agent 运行在 Ora 追踪每一步的仪表化环境之外。这个覆盖功能让团队可以换入那个环境,这样 eve Agent 就像其他所有 harness 一样被记录,不需要构建新的东西。
Journey.ora.ai 现在在两侧都使用 eve:eve 是它测试的 harness 之一,也是它运行的框架。
工程团队有 16 人,每天处理数百次提交,日常的基础设施工作由他们的编码 Agent 负责。一个放在同一处的技术栈让这些 Agent 能够端到端地运行它。
Finder 估计每周节省的时间至少有数小时。Elovic 归功于编码 Agent 与 Vercel 库配合的良好程度。
Ora 正在添加更多产品,架构也随着它们一起扩展。团队正在将平台拆分为微服务,全部运行在 Vercel 上。新服务部署到相同的基础设施,彼此通信无需额外配置,基于 eve 构建的内部 Agent 将作为又一个服务运行。
按照 Ora 自己的衡量,网络仍有 99% 还无法处理一个来完成注册、集成和支付的 Agent。
关于 Ora:Ora 让网络为 Agent 做好准备。企业使用 Ora 来基准测试 AI Agent 如何发现、导航和与他们的网站交互,并构建 Agent 需要的基础设施来找到、使用和交易这些网站。