Vercel扩展Kimi模型零留存接入渠道
AI Gateway为Kimi K3.1 Pro及高速版增加零数据留存服务商;两款模型均支持百万Token上下文和图像输入。启用请求级或团队级ZDR后,网关仅路由至有零留存协议的服务商,无可用服务商时请求失败。
AI 深度解读
Kimi K3.1 Pro 接入 AI Gateway 的这次更新,重点是增加了支持零数据保留(ZDR)的服务商选择。此前,Kimi K3.1 Pro 和 Highspeed 版本都只有 Moonshot AI 提供服务。
对把模型接进应用或编程 Agent 的团队,更有用的是路由规则:开启 ZDR 后,网关只会把请求发给签有 ZDR 协议的服务商;没有可用服务商就失败。它把数据保留要求变成了请求必须满足的条件。
多了服务商,模型能力变了吗
公告涉及两个模型:Kimi K3.1 Pro,以及速度更快的 Kimi K3.1 Pro Highspeed。两者都支持图片输入,拥有 1M-token 上下文窗口。Vercel 将 Highspeed 定位于编程 Agent 等重视响应时间的交互场景。
原文称,K3.1 Pro 相比早期 Kimi 模型,在编程、3D 建模和金融分析方面有所提升,也能支撑从小修复到完整项目的长程 Agent 任务。
但这些是能力描述,文章没有提供评测结果、实际任务记录,也没有给出 Highspeed 的延迟或吞吐数据。因此,这次可以确认的变化是服务商选择增加,不能据此判断模型效果又提升了一轮。新增服务商的名称和数量,原文也没公布。
ZDR 开关决定请求能发给谁
ZDR 是 Zero Data Retention,即零数据保留。文章给出了两个启用范围:单次请求,以及团队通过 AI Gateway 发出的所有请求。
下面的代码在单次调用中要求使用 ZDR 服务商:
import { streamText } from 'ai';
const result = streamText({
model: 'moonshotai/kimi-k3.1-pro',
prompt: 'Write a Python function that redacts email addresses from a log line.',
providerOptions: {
gateway: {
zeroDataRetention: true,
},
},
});
要看的是 providerOptions.gateway.zeroDataRetention: true。它要求网关只选择签有 ZDR 协议的服务商;如果该模型没有符合条件的可用服务商,请求就会失败。
开启 ZDR 后,可用性回退也必须遵守同一项数据保留要求。
如果希望覆盖整个团队,包括编程 Agent 发出的请求,可以在 AI Gateway 控制台设置中启用 ZDR。这比依赖每一处调用代码都带上参数,更适合统一执行团队要求。
不过,原文没有解释 ZDR 协议的具体条款,也没有交代网关自身的日志保留范围。不要把一个路由开关理解成整条调用链的数据处理说明。
应用代码和编程 Agent 怎么接
应用侧可以通过 AI SDK、Chat Completions、Responses 和 Anthropic Messages APIs 调用模型。普通版的模型名是 moonshotai/kimi-k3.1-pro;使用高速版时,替换为 moonshotai/kimi-k3.1-pro-highspeed。
编程工具侧,文章列出了 Claude Code、Codex 和 Cursor。接入步骤是安装最新版 Vercel CLI,执行 pnpm i -g vercel@latest,再运行 vercel ai-gateway coding-agents setup,随后在 Agent 中选择上述模型。公告没有指定 CLI 的最低版本,也没有展开各工具的具体配置差异。
AI Gateway 还统一提供用量与成本追踪、重试、故障转移、性能优化、自定义报表、API key 预算和路由规则。Vercel 声称模型推理按服务商价格计费,不加价,也不收推理平台费,Bring Your Own Key(BYOK)请求同样适用。
这说明了收费口径,但原文没有列出两个模型的具体价格,也没有提供多服务商接入前后的可用性对照。
我的判断
我认可把 ZDR 做成强制路由条件。团队既然提出了数据保留要求,故障转移就应该继续遵守;请求失败也应当是预期内的结果。
与直接调用 Moonshot AI 相比,网关的吸引力在于统一管理多个服务商、调用规则和成本。但这篇公告没有足够证据证明,经过网关后一定更快、更稳定或更省钱。服务商更多,只是增加了调度空间,实际收益还取决于可用服务商、限额和请求负载。
同样,1M-token 是上下文容量,不是长任务成功率。把整个仓库塞进上下文之后,Agent 能否正确修改、执行和验证,仍需要用自己的任务测试。
能拿来做什么
- 已通过 AI SDK 调用模型的 Node 项目,可以按上面的方式设置
zeroDataRetention: true,并为没有合规服务商可用时的失败准备错误提示和重试策略。 - 团队若要求编程 Agent 统一使用 ZDR,可以在 AI Gateway 控制台启用团队设置,再检查 Claude Code、Codex、Cursor 是否确实通过该网关发送请求。
- 选择普通版还是 Highspeed 时,用相同的代码修复任务比较响应时间、修改正确率和实际费用,再决定是否切换,不必仅凭版本名称判断。