前端进阶之旅前端进阶之旅
基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
知识卡片
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
  • AI 助手随时提问,即时解析
  • AI 模拟面试模拟真实面试 + 报告
  • AI 知识地图串起全站知识点
  • AI 定制路线按你的简历现排
AI 热点
旧版
基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
知识卡片
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
  • AI 助手随时提问,即时解析
  • AI 模拟面试模拟真实面试 + 报告
  • AI 知识地图串起全站知识点
  • AI 定制路线按你的简历现排
AI 热点
旧版
返回 AI 情报前线
All News · 全部资讯9915
  • LocalRAG 开源本地文档问答完整链路
  • Copilot群聊支持在同一对话处理多个仓库
  • Agent 执行工具前需要哪些安全关卡
  • 让 Claude Code 参考后端而不误改代码
  • Opus 快速模式开放,提速成本需细算
  • 让编程 Agent 看懂仓库依赖关系
  • 分类与抽取任务可让模型直接选答案
  • 为付费 API Agent 强制设置支出上限
  • n8n 长任务先响应,避免超时重试
  • Meta 新开放权重模型支持苹果芯片本地运行
  • 英伟达推出百万上下文开放多模态 Agent 模型
  • 用Claude Code做手机声波联机游戏
  • Google OAuth 支持刷新令牌密钥绑定
  • 将低频流程移入 Claude Code 按需技能
  • Copilot 多模型编排需累计计算调用费用
  • Gemini CLI 消费者登录退役带来的迁移提醒
  • 编码智能体自动放行配置可能成为攻击入口
  • 用事件钩子识别编码智能体何时等待操作
  • 并行编程 Agent 背后的 Git 工作树机制
  • Copilot 部分模型将于11月16日退役
  • NoteBank 用片段回放补强长上下文记忆
  • Meta 推出8160亿参数开放权重多模态模型
  • 两台 M5 Ultra Mac 可运行 Muse 开放模型
  • SageMaker 支持部署 Muse Spark Open
  • 谷歌 ADK 配方库贯通 Agent 开发部署
  • 为多轮 Agent 建立持续评估流水线
  • ctxtrim 压缩日志,节省编程上下文
  • 技能触发不准,先改好 description
  • AI 生成页面上线前,补验 GA4 事件链路
  • 让客服机器人把处理结果反馈到检索排序
  • Muse Spark Open 发布,主打编程与 Agent
  • FLUX 3 Klein 开放权重,8GB 显存可运行
  • Gemini 4 Argon 整合机器人控制与仿真
  • 英伟达开放多模态模型,面向企业智能体
  • Vercel 扩展后端与 Agent 部署能力
  • 已加载 35 / 9915
8.0
热点
AI SCORE
编程提效2026-10-16 06:01

Opus 快速模式开放,提速成本需细算

dev.to · AI#Claude#成本优化#缓存
Editor brief · 编辑速览

据文中援引的发布说明,Opus 5.5 快速模式结束预览,各用量等级无需申请即可使用,输出速度最高提升至原来的 2.5 倍。输入与输出单价均为标准模式的两倍,文章还提示切换速度模式可能影响缓存命中。

文章思维导图
Knowledge map
拖拽缩放
Full translation

完整中文译文

书籍:《System Design Pocket Guide: Fundamentals》(系统设计口袋指南:基础篇)

系列:Pocket Guides for Developers(开发者口袋指南)——8 本短书,涵盖 Agent、RAG、prompt、可观测性、事件、数据库和系统设计——完整系列

我的项目:Hermes IDE | GitHub——一款面向使用 Claude Code 和其他 AI 编程工具交付软件的开发者的 IDE

关于我:xgabriel.com | GitHub

过去,Claude Opus 的 fast mode 有一道准入门槛。Console 组织需要先通过客户经理或候补名单开通权限,才能成功发出 fast 请求。Claude Code 的 fast mode 页面至今仍是这样描述的。

10 月 15 日,Anthropic 的发布说明为一个模型撤掉了这道门槛。Claude Opus 5.5 的 fast mode「已结束研究预览,无须再申请访问权限」。现在,每个用量层级都有 Opus 5.5 的默认 fast mode 速率限制。

你得到的是同一个模型,只是运行得更快。fast mode 文档承诺「每秒输出 token 数最高提升至 2.5 倍」,价格为每百万输入 token 8 美元、每百万输出 token 40 美元。标准速度的 Opus 5.5 标价分别为 4 美元和 20 美元。也就是说,每个 token 的价格翻倍,而且加速效果也有边界,值得在生产环境开启前了解清楚。

10 月 15 日发生了什么变化

共有三项变化,均来自 10 月 15 日的发布说明:

  • 向 Opus 5.5 发出的请求不再需要 fast-mode-2026-02-01 beta header。仍然携带这个 header 的请求也能继续正常工作。
  • 每个用量层级都有 Opus 5.5 的默认 fast mode 速率限制,因此无须申请访问权限。
  • Microsoft Foundry 上的 Claude 现已支持 Opus 5.5 的 fast mode,但仅限托管在 Azure 上的部署。

没有变化的是:根据同一条发布说明,Claude Opus 5 和 Opus 4.8 的 fast mode「仍处于研究预览阶段」,这些请求依然需要 beta header。

只需一个字段就能开启。下面是文档中的请求,重新整理了格式:

curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-opus-5-5",
    "max_tokens": 1024,
    "speed": "fast",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

响应的 usage 对象中包含一个 speed 字段,值为 "fast" 或 "standard",你可以据此确认此次请求按哪种速度计费。

两倍价格能买到什么,又买不到什么

文档说得很明确:「速度提升主要体现在每秒输出 token 数(OTPS),而非首个 token 的等待时间(TTFT)。」权重相同,行为相同,只是采用了更快的推理配置,而且在流式输出时,提升「最明显」。

这也说明了它在哪些场景值得用。生成大段 diff、数据库迁移或跨文件重构的请求,大部分时间都花在输出 token 上,因此更高的输出速度可以缩短等待。只返回 10 个 token 的简短分类请求,时间主要花在第一个 token 出现之前,而 fast mode 并不针对这部分提速。

fast mode 提升的是每秒输出 token 数。它针对的并不是首个 token 的等待时间。

Two runners on parallel tracks leaving the same starting block at the same moment, one pulling far ahead only after the first stride, with a burnt-orange stopwatch above them

再来看定价页面给出的价格信息。Opus 5.5 缓存命中的价格是基础输入价格的 0.05 倍。文档还说明,「prompt 缓存的价格倍率在 fast mode 定价基础上叠加」,因此,下文 fast mode 缓存命中的价格,就是将这个倍率乘以 8 美元得到的。

根据定价页面,fast mode「在整个上下文窗口内采用统一价格,包括输入超过 200k token 的请求」,数据驻留的价格倍率也会在此基础上叠加。

切换速度会启用一份新缓存

这部分带来的成本,可能不止两倍。API 文档在注意事项中写道:「在 fast 和 standard 速度之间切换会使 prompt 缓存失效。不同速度的请求不共享已缓存的前缀。」

因此,一段按 standard 速度缓存的长 Agent 对话,在第一次发出 fast 请求时无法命中缓存。整个历史记录都会按 fast 费率重新读取;如果再次缓存,还要支付 fast 模式的缓存写入溢价。

Claude Code 的处理略有不同,它的 prompt 缓存页面对此作了详细说明。开启 fast mode 会添加一个请求 header,而这个 header 是缓存键的一部分,所以第一次 fast 请求「会读取整个对话历史,且没有任何缓存命中」。在第一次 fast 交互之后,Claude Code 会保留这个 header,之后只调整速度设置,因此再关闭、重新开启 fast mode 都能保留缓存。这笔成本每段对话只发生一次。

用已公布的价格,算一算包含 150,000 个 token 的 Claude Code 对话。在对话进行到很长时才开启 fast mode,这 150,000 个 token 会按每百万输入 token 8 美元的 fast 费率计费,共 1.20 美元。如果重建后的前缀写入有效期为 5 分钟的缓存,1.25 倍的缓存写入倍率会使价格变成每百万 token 10 美元,也就是 1.50 美元。同一轮请求如果使用 standard 速度,并且缓存已经预热,读取价格是每百万 token 0.20 美元,总计仅 0.03 美元。这就是 Claude Code 文档建议「在会话开始时开启 fast mode,而不是在对话中途切换」的原因。

fast 和 standard 请求各自保留独立的缓存前缀。跨速度切换,意味着至少要重新读取一次整个历史记录。

Two separate vaults side by side, one marked with a snail emblem and one with a lightning emblem, and a single key that fits only one of them

在 API 中,429 不会触发自动回退

根据速率限制章节,fast mode「有一套独立于标准 Opus 速率限制的专用速率限制」。超过限制后,你会收到一个带有 retry-after header 的 429 响应。API 不会自行回退到 standard 速度。SDK「默认最多重试 2 次」,文档称等待时间「通常很短」。Claude Code 的行为则不同:触及 fast mode 速率限制时,它会回退到 standard 速度和价格,冷却时间结束后再重新开启 fast mode。

同一章节列出了 6 个用于跟踪这套配额池的响应 header,从 anthropic-fast-input-tokens-limit 到 anthropic-fast-output-tokens-reset。如果你直接调用 API,而且宁愿慢一点执行,也不想等待,文档提供了一种需要自行启用的客户端回退方案。下面是该方案使用 TypeScript SDK 的精简版本:

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic();

const base = {
  model: "claude-opus-5-5",
  max_tokens: 1024,
  messages: [{ role: "user" as const, content: "Hello" }],
};

async function ask() {
  try {
    return await client.messages.create(
      { ...base, speed: "fast" },
      { maxRetries: 0 },
    );
  } catch (e) {
    if (e instanceof Anthropic.RateLimitError) {
      // standard price, and a prompt cache miss
      return client.messages.create(base);
    }
    throw e;
  }
}

设置 maxRetries: 0 会跳过自动重试,但也会跳过过载错误和服务器错误的重试。文档中的完整示例会对这些错误重新发起带重试的请求。回退请求还会启用一份新缓存,文档也提醒了这一点。

哪些地方仍然用不了

fast mode 页面列出了以下限制:

  • 不支持 Amazon Bedrock、Claude Platform on AWS 和 Google Cloud。
  • 在 Microsoft Foundry 上,仅支持托管在 Azure 上的部署,「不支持托管在 Anthropic 上的部署」。
  • 不支持 Batch API。
  • 不能与 Priority Tier 用量承诺一起使用。

根据 Claude Code 的 fast mode 页面,在使用 Pro、Max、Team 或 Enterprise 套餐的 Claude Code 中,/fast「仅通过用量额度计费,不包含在订阅的速率限额内」,而 Team 和 Enterprise 还需要先由 Owner 开启。截至 10 月 15 日,这个页面仍将该功能称为研究预览,并把 Microsoft Foundry 列为不支持的平台,因此 Claude Code 文档还没跟上 API 发布说明。如果你的组织通过 API key 运行 Claude Code,先试一下 /fast,再决定该相信哪个页面。

无论通过哪个入口使用,都应在会话开始时开启 fast mode,避免在中途切换,并检查响应中的 usage.speed。

我是 Hermes IDE 的开发者,阅读下面这段介绍时请考虑这一点:这是一款免费的应用,源代码可用,采用 BSL 1.1 许可证,支持 macOS、Windows 和 Linux。它能并排运行 Claude Code、Codex 和其他编程 Agent,每个 Agent 都使用自己的分支。你可以下载它,或在 GitHub 上点个 Star。它与 Nous Research、Anthropic、OpenAI 或任何 Agent 厂商均无关联。

fast mode 是用钱换延迟的取舍,它有自己的速率限制配额池,也有自己的缓存。《System Design Pocket Guide: Fundamentals》介绍了这些基础模块:速率限制、缓存,以及系统在依赖服务拒绝请求时会怎么做。它是 Pocket Guides for Developers 系列 8 本短书中的一本,整个系列涵盖 Agent、RAG、prompt、可观测性、事件、数据库和系统设计,都汇集在这里。

System Design Pocket Guide: Fundamentals — Core Building Blocks for Scalable Systems

如需采取进一步行动,你可以考虑屏蔽此人和/或举报滥用行为。

Original source

本文由 AI 翻译整理自 dev.to · AI,原文版权归原作者所有。

阅读英文原文
上一篇
让 Claude Code 参考后端而不误改代码
下一篇
让编程 Agent 看懂仓库依赖关系