You.com推兼容OpenAI的多模型接口
You.com发布Inference Router,通过兼容OpenAI的API提供12款开放权重模型,并支持服务端网页搜索。其宣称提供99.9%可用性SLA、零数据留存、全美国托管且不收平台费。
AI 深度解读
把开源权重模型接进生产环境,难点往往不在第一次调用,而在故障切换、数据保留、账单和安全审查。You.com 推出的 Inference Router,想把这些问题打包成一个托管 API:接入 12 个模型,按量付费,提供最低 99.9% 可用性 SLA,并承诺模型调用和搜索都不保留内容。
这项服务值得关注的地方,是把生产保障放到了低门槛接入方案里。至于搜索效果能否追上闭源模型、成本能省多少,原文给出了数据,也留下了需要核对的前提。
一个 API 能替团队省掉哪些生产工作
Inference Router 的入口是 https://api.you.com,提供 OpenAI-compatible 和 Anthropic-compatible 路由。原文称,现有 SDK 代码更换 base URL 和 API key 就能迁移;不过,它没有展示完整代码,也没有逐项说明工具调用、流式响应等行为的兼容范围。
每次请求先进入 You.com 自有的 Inference Direct。当容量不足或服务不可用时,再切到经过审核的合作方。名单包括 Parasail、Wafer、Alibaba Cloud、Meta 和 Inception,Prime Intellect 则标为即将接入。原文称,所有承接请求的资源都在美国,且必须满足零数据保留要求。
这里解决的是供应商故障和容量问题,并没有说会自动换成另一个模型。
它卖得最明确的,是同一模型背后的托管与故障切换保障。
切换供应商不会改变账单,每个模型只有一个公开 token 单价。平台还提供按 API key 设置支出上限,以及按模型、费用和供应商查看每日用量的能力。
最低 99.9% 可用性 SLA 适用于按量付费,并附带抵扣补偿。基础设施符合 SOC 2,数据处理协议(DPA)可按需申请。这些安排对应的正是原文提到的迁移障碍:实验阶段能用的聚合 API,进入生产时未必能通过安全和采购审核。
零数据保留(ZDR)的范围也比较具体:提示词和输出只在内存中处理,不落盘;模型调用与网页搜索都适用。平台仍保留 token 数、时间戳和账户 ID 等运维元数据,但明确排除提示词哈希、去标识化文本和基于磁盘的提示词缓存。
模型不少,但 token 单价没有普遍打折
原文列出 12 个已上线模型,其中 7 个给出了价格。下表价格均为每 100 万 token 的输入/输出费用:
| 模型 | 输入/输出价格 | 上下文 |
|---|---|---|
| Kimi K3 | $2.85/$14.25 | 1M |
| Qwen3.8 Max | $1.85/$5.55 | 1M |
| GLM 5.3 | $1.35/$4.25 | 1M |
| DeepSeek V4 Pro | $1.65/$3.65 | 1M |
| DeepSeek V4.1 Flash | $0.30/$1.20 | 1M |
| Mercury 3 | $0.10/$0.35 | 1M |
| GPT-OSS 120B | $0.097/$0.73 | 125K |
另外 5 个是 Muse Wonder、Muse Spark 1.3、GLM 5.3 Flash、Qwen3.8 Flash 和 MiniMax M3,原文没有逐项提供价格与上下文。它还称 Kimi K3 有 2.8T 参数,Qwen3.8 Max 是 2.4T 参数的混合专家模型(MoE);这些规格并不能直接证明任务效果。
价格优势需要分对象看。Kimi K3 在 Together AI 上是 $3.00/$15.00,You.com 只便宜 5%。DeepSeek V4.1 Flash 的 $0.30/$1.20,则与 Together AI、Fireworks AI 的普通无服务器方案相同。
如果比较 Fireworks 的美国专属档位,差异才明显:其 Kimi K3 为 $4.50/$22.50,You.com 的输入价约低 37%;DeepSeek V4.1 Flash 则是 $0.45/$1.80。
平台费也要单独算。You.com 为 0%,原文列出的 OpenRouter 充值手续费是 5.5%,最低 $0.80;其 Kimi K3 报价随供应商变化,从 $0.238/$16 到 $4.50/$22.50。
因此,不能只拿一个输入单价判断谁便宜。输出比例、部署地区和数据保留条件,都会改变比较结果。
搜索评测追平了,但能证明什么
开发者声明 web_search 或 web_extract 工具后,路由器会替模型执行搜索,响应通过 web_results 返回搜索结果与引用。文档示例每次搜索最多返回 20 条结果,默认允许 30 轮搜索。
原文称搜索与模型运行在同一台服务器,You.com 内部测试显示延迟最多降低 15%。但没有交代对照架构、请求分布和延迟分位数,这个上限不宜直接用于项目估算。
效果方面,You.com 用 Braintrust 的开源搜索评测工具,在 LiveNewsBench 的 1,329 道问题上报告了以下结果:
| 组合 | 准确率 | 每题平均费用 |
|---|---|---|
| GPT-6.1 Sol,内置搜索 | 86.53% | $0.0591 |
| GLM-5.3 + You.com search | 86.53% | $0.0485 |
| Claude Sonnet 5.5,内置搜索 | 86.38% | $0.0920 |
| DeepSeek V4.1 Flash + You.com search | 84.12% | $0.0215 |
DeepSeek V4.1 Flash 比 Claude Sonnet 5.5 每题约便宜 77%,准确率低 2.26 个百分点。但这些是 You.com 自报结果,而且衡量的是模型与搜索组成的整套系统,不能据此推断代码生成能力。
原文还引用 Braintrust 的 8 月研究:较旧的 DeepSeek V4 Flash 配合 You.com search,达到 80.66%,每题 $0.0163;Claude Sonnet 5 内置搜索为 78.78%,每题 $0.1148。两批评测的模型不同,不应直接拼成进步趋势。
另一项与 NVIDIA、CoreWeave 的联合工作,将搜索纳入 Nemotron 3.5 Lightning 的后训练,使 BrowseComp 从 36.97% 升至 45.45%,工具调用减少 30%。它说明训练模型使用搜索可能有收益,但不能证明接上这个 API 就能获得相同提升。
我的判断
我认可它把故障切换、ZDR、部署地区和按量付费放在一起。对于已经准备采用开放权重模型、又不想管理 GPU 的团队,这比单纯增加模型数量更有实际价值。
不过,美国托管是否合适,要看业务要求。它也不能回答国内访问延迟如何,原文没有这部分实测。99.9% SLA 是服务承诺,具体保障仍需看统计口径、排除条件和补偿条款。
与 OpenRouter 相比,You.com 强调统一的数据政策和保障;与 Together AI、Fireworks AI 相比,它强调按量付费也能获得 SLA。原文称 Together 的无服务器服务采用尽力交付,99% 请求 SLA 需要至少 1 个月的预置吞吐量承诺。这里的「请求 SLA」和「可用性 SLA」也需要核对定义,不能只比百分比。
搜索榜单可以支持选型候选,不能替代业务验收。
这些数据不是作者独立复测的结果。原文也没有给出并发压力、故障切换耗时和长上下文效果的对照测试,生产表现仍有空白。
能拿来做什么
- 如果现有 Node 服务使用 OpenAI SDK,可以先替换 base URL 和 key 做小范围兼容验证,重点检查流式输出、工具调用、错误处理和超时行为。
- 如果正在做新闻检索或资料问答,可以用同一批业务问题比较
web_search、引用质量、每题费用和延迟,优先验证原文评测覆盖到的场景。 - 如果项目卡在安全审查,可以把 ZDR 覆盖范围、合作方故障切换、DPA 和 SLA 条款整理成核对表,再判断这些承诺是否满足团队要求。
- 如果只是想降低 AI 编程成本,先用仓库里的真实任务评测候选模型;原文的搜索准确率不足以证明它们能胜任代码修改和调试。