Bedrock 接入 Kimi,支持缓存与编程助手
Kimi K3.1 Pro 上线 Amazon Bedrock,支持 OpenAI 兼容的 Chat Completions、Responses 及 Converse API。文章介绍显式提示缓存,以及在 OpenCode 中将其配置为编程助手的方法。
原文暂未完整获取,基于公开信息的快读
AWS ML Blog 宣布,Moonshot AI 的 Kimi K3.1 Pro Highspeed 已接入 Amazon Bedrock。公开节选给出了通过 OpenAI 兼容接口和 Bedrock API 调用的示例,也提到显式提示缓存及 OpenCode 编程助手配置。不过,现有节选尚未覆盖后两项的具体操作。
目前能确认什么
节选中的具体型号是 Kimi K3.1 Pro Highspeed。它支持工具调用、结构化输出、图像输入、流式响应和可配置推理,可通过 Chat Completions、Responses、Converse 和 Invoke API 使用。已有 Kimi K3 的 Bedrock 用户,按文中说明可以修改模型 ID 尝试接入。
推理强度是一个容易漏掉的配置:reasoning_effort 支持 low、high、max,默认值为 max。文章指出,简单任务降低这一设置,可以减少延迟和输出 token。
提示缓存通常用于复用重复上下文,代码库说明、项目规范都可能属于这类内容。但当前材料只说明文章会介绍显式缓存,没有给出缓存有效期、命中条件及配置方法。OpenCode 的具体配置也未出现在节选中。
我的判断
对已使用 Bedrock 的团队,最明确的价值是多了一条沿用现有调用方式试用 Kimi 的路径。
接入编程助手时,我会先关注推理强度:简单问答默认使用 max,可能增加等待;复杂代码任务是否需要更高强度,则要通过任务结果判断。
缓存能否降低反复发送项目上下文的开销,取决于缓存规则和实际命中情况,现在还无法算账。Moonshot AI 关于速度及复杂任务能力的说法,也不能直接当成编程助手的实测效果。
此外,节选明确区分了全球路由与地域路由。团队若有数据驻留要求,需要先确认所选推理配置的处理范围,不能仅凭「数据在 AWS 边界内」作判断。