基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-21 02:56

Agent 传文件只传引用,字节交给宿主搬运

dev.to · AI#Agent#工具调用#性能优化
Editor brief · 编辑速览

将文件以 Base64 内联到工具参数,会让模型逐 token 输出文件内容,增加延迟、费用与复制错误。文章建议由宿主直接上传文件,模型只传预签名 URL 或句柄。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

把文件交给 Agent 的工具,不一定要让模型把文件内容重新输出一遍。作者指出,工具参数如果内嵌完整文件,传输就会受制于模型的生成速度、输出额度和复制准确性。更合理的做法是:模型传引用,宿主程序搬文件。

这和前后端处理大文件上传是同一类问题。文章的价值在于提醒开发者:接入工具时,除了看工具能不能收文件,还要看文件字节究竟经过了谁。模型可能正在充当一个昂贵又缓慢的搬运工。

工具参数里的文件,为什么会变成生成任务

常见的文件上传接口会把文件转成 base64,再放进 JSON 请求体。作者举了一个场景:测试时没有问题,用户上传 30 MB PDF 后,编码让体积增加约三分之一,网关触及请求体上限,解析器还要把整个请求留在内存里。

传统上传链路的改法,是使用预签名 URL(pre-signed URL)。客户端直接把文件上传到存储,业务 API 只接收一个存储键。

Agent 的工具调用也可能遇到相似问题,但代价更多了一层:内嵌在工具参数里的文件内容,需要模型逐个 token 生成。

这里要限定讨论范围:问题针对的是「模型负责生成完整文件参数」的调用方式,不能据此推断所有 Agent 传文件都必须经过模型复制。如果宿主程序已经能直接读取文件并传给工具,这个瓶颈就不存在。

20 KB 为什么可能花掉近两分钟

作者统计了自己 Claude Code 会话中 177 次超过 4 KB 的文件写入,得到两个观察值:

  • 把思考开销计入后,每个输出 token 约对应 1.9 个文件字符。
  • 每生成 1 KB 文件内容,约需要 4 秒。

如果文件还要先转成 base64,体积会再增加约三分之一。作者据此估算,20 KB 文件需要约 14,000 个输出 token,耗时接近两分钟;200 KB 文件则需要约十八分钟,还会超过 32,000-token 的单次回复额度,导致调用被截断。

这些数字要分开看。177 次文件写入是作者的个人观测;20 KB 和 200 KB 的成本是基于观测给出的估算。原文没有交代具体模型版本、网络条件和完整计算过程,也没有给出 base64 的实际分词测试。作者只是推测,base64 的分词效率可能比代码更差。

时间之外还有完整性问题。模型如果在复制过程中改错字符,文件可能损坏;这条传递链路本身也不会指出具体错在哪里。

让模型报位置,让程序传字节

作者给出的方案很直接:把「选择哪个文件」和「传输文件内容」分开。

模型只向工具提供文件引用,例如存储键或句柄(handle);宿主程序通过另一条通道,把原始字节上传到工具使用的存储。预签名 URL 则可以承担直接上传的入口。

大白话解释:模型负责告诉程序「用这个文件」,程序负责把文件送到目的地。工具调用中不再出现整份文件,模型需要生成的参数也就不再随文件体积同步增长。

文件传输应当交给能直接读写字节的程序。

不过,提供的原文是节选。它提到完整版包含按角色修改代码、验证方法、适用边界和可运行代码,但这里没有展开,也没有给出具体 API、参数结构或实现片段。因此,能从这份材料确认的是架构方向,还不能直接照着完成接入。

我的判断

这个方向成立:如果文件已经存在,再让模型逐字输出一遍,通常是在给普通文件传输增加生成成本。对于 Node 编写的 Agent 宿主,优先检查工具适配层是否支持文件引用,比单纯提高输出额度更接近问题根源。

但文章里的耗时不能当成通用性能指标。它没有提供其他模型、不同工具链或改造前后的对照数据;「约十八分钟」是特定观测条件下的估算,不是所有 Agent 的固定表现。

还要区分两种任务:传递已有文件,和让模型生成新内容。前者适合绕过模型搬运字节;后者仍然需要模型输出内容,文件引用无法消除这部分工作。如果工具只接受内嵌内容,接入方也必须先改造接口或适配层,不能只改提示词。

能拿来做什么

  • 检查日常 AI 编程工具的调用记录,确认附件、PDF 或已有源码是否被整份写进参数;如果是,优先寻找文件引用入口。
  • 用 Node 开发 Agent 宿主时,让宿主读取并上传本地文件,模型只提交文件标识,避免让模型生成 base64。
  • 评估这类改造时,用同一份文件比较调用耗时、输出 token 和文件完整性;把作者的数字当作排查线索,再测自己的链路。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
同一模型换个榜单,Codex 排名为何悬殊
下一篇
微软开发工具更新:模型、审查与浏览器代理

资讯速览

dev.to · AI · 2026-11-21 02:56

AI 评分 8.0 / 10

相关标签

#Agent#工具调用#性能优化

继续阅读

  • LLM 功能上线前,先定义可执行的验收标准
  • 同一模型换个榜单,Codex 排名为何悬殊
  • 微软开发工具更新:模型、审查与浏览器代理
  • Gemini 在 Mac 后台操作桌面应用
  • LLM 输出非法 JSON,如何分层处理