并行工具调用让订单绑错客户
建户和下单并行执行时,模型在拿到新客户编号前填入了一个自造编号,导致订单归到另一位客户。案例通过串行执行和校验编号来源来修复。
AI 深度解读
用户一句话要求开户并下单,模型在同一轮发出两次工具调用。账户开好了,40 袋石膏却下到了另一位客户的账号 10001。问题出在生成参数的时机:模型写下 account_id 时,开户工具还没返回新账号。
作者给了三种处理办法:关闭写操作的并行调用,把开户和首单封装成一个工具,再由后端核验模型传来的 ID。只要你的 AI 应用能替用户改数据,就可以用这个案例检查工具调用链。
把两次调用排队,订单还是可能下错
create_account 返回新账号,place_order 需要账号才能下单。多个主流 API 允许模型在一次响应里发出多个工具调用。OpenAI 的控制参数是 parallel_tool_calls,默认开启。Anthropic 也提供关闭并行调用的开关。查库存和查运费这类互不依赖的操作可以一起发,开户和下单之间则有明确的数据依赖。
两次调用出现在同一个响应里,place_order 的参数就已经填好了。即便执行器先跑 create_account,等它成功后再执行 place_order,第二个调用仍会带着先前填进去的 10001。要用上新账号,就得让模型先拿到工具结果,再生成下单参数,或者让后端直接把开户结果交给下单逻辑。
原文的 schema 只要求 account_id 是 string。账号 10001 符合格式,还恰好对应一个真实账户,于是两次调用都成功,日志表面也看不出异常。新客户收到了订单确认邮件,却在自己的账户里找不到订单,另一位客户则收到了没订过的石膏。作者提到,测试提示每次只交代一件事,真实用户会一口气把整件事交代完。
把账号交接放到后端,模型少填一个关键参数
作者建议关闭写操作的并行调用,让后一步有机会拿到前一步的结果。如果开户加首单在业务上就是一个常见流程,可以提供 create_account_with_order。模型只需提交开户和下单需要的信息,由后端拿着刚创建的账号继续下单。
作者还提出一条执行规则:模型传进来的 ID,必须由本次对话中的工具返回过,或者属于当前登录客户。其余 ID 直接拒绝,并把原因告诉模型。这样,即使模型生成了一个格式正确、数据库里也确实存在的账号,执行器也有依据拦住它。
我的判断
我最认同的是把 ID 校验放进执行器。提示词可以提醒模型等待结果,schema 可以检查字段类型,但账号归属需要后端结合登录身份判断。原文的规则还需要一个前提:如果查询工具可能返回多个客户的账号,「本轮工具返回过」只能证明 ID 的来源,下单前仍要检查当前用户是否有权操作该账户。
组合工具适合流程固定、经常一起发生的操作。如果开户和下单各自还有独立入口,保留两个工具、等开户结果返回后再生成下单调用,也能处理依赖。组合以后还得定义开户成功、下单失败时怎么返回,避免重试又开一个账户。原文给出了故障案例和测试遗漏,但没有提供故障频率、修复后的数据,或几种方案的对照结果。方案取舍属于经验判断。
能拿来做什么
- 给工具调用测试加一条组合请求,例如「帮我开户,再订 40 袋石膏」,断言下单记录使用的是本次开户返回的账号。
- 在 Node 工具执行器里,用本轮工具结果和当前登录用户校验
account_id。测试时专门传一个真实存在、但属于其他客户的账号,确认请求会被拒绝。 - 如果产品经常把开户和首单放在同一个流程里,可以提供
create_account_with_order,由后端传递账号,并测试开户成功、下单失败后再次请求的行为。