多 Agent 协作系统的架构设计挑战

与思科 Outshift 合作

想象一个由多个 AI agent 组成的医疗系统：一个管理症状评估，另一个负责日程安排，第三个处理保险，第四个管理药房。

每个 agent 都是其领域的专家。但它们各自拥有独立的知识和目标。如今它们可以交换数据，但还无法在没有人类做决策的情况下真正协调患者护理。

"智能已经存在了。缺少的是那根'结缔组织'，它能把四个陌生人变成一个团队，" Cisco Outshift 高级副总裁兼总经理 Vijoy Pandey 解释说。

这种"结缔组织"来自于添加一个语义层——Outshift 称之为"认知互联网"（Internet of Cognition）——它使不同领域的 agent 能够协同工作，并通过共享的意图、上下文和推理能力一起"思考"。

这个语义层依赖于底层的连接层，称为"Agent 互联网"（Internet of Agents），它允许自主 agent 相互发现、证明身份，并在领域之间交换消息。

Pandey 表示，当这两者结合使用时，它们将实现"通向分布式人工超级智能的下一步"。

从单独的硅脑天才到"认知互联网"

多年来，AI 行业一直专注于增长。垂直扩展产生了更大的模型，用更多的数据和计算资源进行训练。这产生了推理能力，可以像 AI agent 的"大脑"一样工作，能够在数字环境中感知、推理和行动。

虽然垂直扩展可以持续生产更强大的 agent，但要在不同的系统、公司和平台间实现 agent 问题求解，下一个扩展轴线必须是水平的，Pandey 说。

多 agent 系统已经在软件工程、药物发现和科学模拟等领域进行探索，但目前的表现令人失望。一项研究发现，评估七个开源多 agent 系统时，失败率在 41% 到 87% 之间。

"连接的 agent 能很好地处理协调行动；当任务的形状是它们见过的，被分割并传递的，" Pandey 解释道。"它们不能做的是持有一个共同的目标，并为它们都没有被训练来解决的东西推理。"

"这个差距是架构问题，不是提示问题，" Pandey 补充说。"没有正确的协调层，朴素的多 agent 设置可能比单个 agent 的表现更差。关键的改变是 agent 团队在新问题上自我收敛，没有人类来连接接缝。"

为了达到这个目标，Pandey 说 Outshift 建立了一个连接层，名叫 AGNTCY，这是一个现已归属 Linux 基金会的开源项目。AGNTCY 允许来自不同系统、公司和平台的 agent 相互发现、证明身份，并通过开放标准协议交换消息。

正如 Pandey 解释的那样，这使"认知互联网"论题更进一步。它创建了一个语义层，允许 agent 对齐目标（共享意图）、汇集机构知识并复合记忆（共享上下文），以及做出集体权衡（共享推理）。

Pandey 将这种进步比作人类的历程："几十万年来，人类个体变得更聪明，但这些收益随着做出这些收益的人而消亡，" 他解释说。"大约 7 万年前这改变了，当人类学会共享意图、积累知识和集体推理时。那时散落的个体变成了文明。

"Agent 也处于同一个临界点。我们已经建立了硅脑天才并赋予它们行动能力。它们缺少的是让人类走向集体的那一层，" 他说。

迈向分布式超级智能的第一步

使 agent 能够集体工作依赖于技术栈中的三个支柱：

通过认知状态协议实现共享意图： 认知状态协议是语义握手，允许 agent 在行动前就目标达成一致，然后朝着这个目标协商。Outshift 创建了一个名为 Mycelium 的开源协调层，组织可以克隆并用于自己的 agent。

"我们发现，在 14 个场景中，无结构的群体约三分之一的时间达成决策，" Pandey 说到内部测试时。"一个协调协议让 agent 声明目标、浮现缺失信息，并在行动前解决冲突，这将成功率提高到 93%。"

通过认知结构实现共享上下文： 认知结构是一个共享的机构记忆和通信网格，允许 agent 洞察随时间复合而不是每次会话重置。Pandey 说，这个政策管制的上下文层解决了"组织遗忘症"的问题，确保系统的基线智能只会上升。

通过认知放大器和护栏技术实现共享推理： 两种认知引擎可以结合使用以实现共享推理。认知放大器加快共享推理和建模，护栏技术（GAT）创建安全、成本和合规框架。人类是这一层的积极贡献者，做出系统路由给他们的判断调用（而不是事后审查输出）。

多 agent 系统中的认知共享可能产生新的风险，包括无意的授权、恶意提示注入或记忆中毒、或拥有超出其任务所需的权限和数据访问权的过度特权 agent。因此需要特定于环境的控制来防止无意的行动或后果。

"Agent 具有类人属性但以机器的速度和规模运行，" Pandey 说。"我们为二十年建立的一切——访问控制、身份、合规——都是为人类或机器建立的，而不是两者都有。"

持续 Agent 语义授权（CASA）——由 Outshift 开发的开源参考实现——是一个 GAT，通过持续授权的过程确保 agent 行动保持安全地与用户的初始目标相一致。它通过读取 agent 试图完成的内容，然后针对授权它的任务检查每个工具请求来做到这一点。

以医疗系统为例，一个被告知总结患者记录的 agent 可能会开始查询整个数据库。这可能导致 CASA 拒绝该调用，因为请求不再与它被授权的任务相匹配。

"如今的控制范围限于角色或会话，而不是任务，所以被授予工具的 agent 可以为任何事使用它，" Pandey 解释说。"大约 90% 的情况下，agent 无法确认它甚至是否被授权做它被分配的工作。"

跨域创新的实验

当在企业中水平扩展智能时，企业应该从对一个跨职能工作流进行实验开始，该工作流跨越三到四个团队，目前需要一个人类来授权交接，Pandey 建议。

"在开放、可互操作的基础设施上将其设置为小型多 agent 系统，带有可测量的基线，" 他说。"继续构建更大的模型，在它们的顶部添加水平轴，并改变你衡量的内容。追踪一个 agent 的洞察如何让另一个 agent 更好——那是水平轴正在工作的信号。"

通过现在就开始实验意图、上下文和推理层，组织可以走在曲线前面。"问题是开放的，基础设施仍在编写中，" Pandey 说。"这是构建它的时刻。"

有关认知互联网的更多信息，请访问 Outshift.com。

此内容由 MIT 科技评论的定制内容部门 Insights 制作。它不是由 MIT 科技评论编辑部撰写的。它由人类作家、编辑、分析师和插画家进行了研究、设计和撰写。这包括调查的撰写和调查数据的收集。可能使用的 AI 工具仅限于经过彻底人工审查的次要生产流程。

人工智能

一家初创公司声称突破了阻碍 LLM 的瓶颈

Subquadratic 现已分享了有关其新模型的更多详情。但一些人仍然持怀疑态度。

Will Douglas Heaven — 归档页面

Anthropic 发现了 Claude 思考概念的隐藏空间

一项新技术让公司比以往任何时候都更深入地探索了 LLM 的奇怪运作方式。

Will Douglas Heaven — 归档页面

Claude Science 是 Anthropic 的最新旗舰产品

该公司正在加倍投入 AI 科学领域。

Grace Huckins — 归档页面

支撑芯片制造未来的 4 亿美元机器

AI 时代需要更快的芯片。ASML 对昂贵的光刻机拥有垄断权。有人能赶上吗？

Clive Thompson — 归档页面

从 MIT 科技评论获取最新更新

发现特别优惠、热门故事、即将举办的活动等。