8.0
热点
AI SCORE
技术实践2026-11-02 21:55
调整提示词结构,实测输入成本降低73%
dev.to · AI#提示词缓存#成本优化#Agent
Editor brief · 编辑速览
作者用一个配方智能体演示四步提示词调整,在模型与规则不变的情况下,通过真实 API 调用测得提示词成本降低73%。文章结合逐步可视化和回归检查,解释相同请求前缀如何触发缓存复用。
文章思维导图
Knowledge map
AI brief
原文暂未完整获取,基于公开信息的快读
同一个配方 Agent,模型没换,规则文字也没改,只调整提示词结构,输入成本就降低了 73%。dev.to 上的这篇文章用真实 API 调用展示了四步优化过程。关键在于让连续请求拥有更长的相同前缀,复用提示词缓存(Prompt caching)。
目前能确认什么
提示词缓存会复用请求开头已经处理过的内容。按节选描述,遇到第一处变化,可复用的前缀就结束了。因此,即使每次都发送同一套规则,只要前面夹着变化的信息,后面的规则仍可能无法命中缓存。
作者搭建的配方 Agent 有查询食材和保存配方两个工具,不同用户的套餐决定其使用权限。最初,时间、个人资料和随套餐变化的工具列表都排在请求前部,缓存虽已开启,却没有读到缓存,写入开销还让成本高于关闭缓存时。
四步调整分别是:
- 把每次请求都会变化的时间移到用户消息中。
- 把个人资料移到公共规则之后。
- 各套餐发送相同的工具列表,另外限制可调用工具,并在执行端校验权限。
- 工具执行后追加调用记录和结果,保留已有消息。
前三步后,测试当晚来自缓存的比例达到 80%;第四步展示的工具结果回传请求中,94% 来自缓存。这两个比例都不能直接当作费用降幅。
我的判断
排查 Agent 重复输入成本时,应该先检查公共规则之前放了什么。时间、用户资料、动态工具列表,都可能截断原本可复用的长前缀;只压缩规则字数,可能错过更大的优化空间。
统一工具描述值得参考,但执行端必须保留权限校验,不能把套餐限制只写进提示词。
73% 是作者这组测试的输入成本降幅,不能套用到所有 Agent 的总账单。
现有节选没有完整展示模型、缓存配置、费用统计口径和回归检查实现。尤其是信息移动后是否保持行为一致,还需要完整测试说明;模型和规则文字没变,并不足以单独证明输出行为不变。