英伟达开源智能体工具包扩展企业能力
NVIDIA Agent Toolkit 新增工具,支持企业定制和控制智能体,并利用公司数据支撑回答与行动。工具包还涵盖运行监控,强调智能体执行边界。
完整中文译文
Agent 有多大用,取决于它掌握多少知识;Agent 有多可信,取决于它运行时受到怎样的边界约束。
领先企业正在使用开源的 NVIDIA Agent Toolkit,定制和管控 Agent,让它们基于公司数据作答和采取行动,监控它们的行为,并对其运行方式实施治理。如今,这套工具包又增添了新的工具。
NVIDIA Agent Toolkit 包括:
- 全新的 NVIDIA Agent Knowledge Foundation,内含 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全 Agent runtime
- NVIDIA NemoClaw 安全 Agent 蓝图
- NeMo Relay、NeMo Compass 等工具和 skills
要开发出能够完成实际工作、从开发到部署都值得信赖的 Agent,开发者需要一套开放的 Agent 技术栈,将模型、harness、runtime、数据和工具整合起来。
NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为 Agent 可用的公司业务知识。Agent 可以找到相关信息,理解这些信息对业务意味着什么,并据此进行预测,帮助人们决定下一步该怎么做。企业无需迁移数据、重建现有工作流或更改治理控制措施,就能使用 Agent Knowledge Foundation。
这一基础平台提供 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库。Auto-Ontology 能将原始公司数据转换为客户、产品、订单等熟悉的业务概念,并映射它们之间的关系。
它还包含 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型。后者包括 Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast,能够帮助 Agent 找到相关的公司信息,用于回答问题和进行预测。
OpenShell 提供安全的 runtime 边界,让企业能够控制 Agent 可以访问什么、可以做什么。NVIDIA NemoClaw 蓝图为构建安全、专用的 Agent 提供参考设计。最新的 NemoClaw Agent 优化蓝图提供了一套循序渐进的入门方案,帮助开发者提升 Agent 的智能水平,让它们随着时间推移越来越擅长自己的工作。
企业采用 NVIDIA Agent Knowledge Foundation
全新的 NVIDIA Agent Knowledge Foundation 已经在多家企业投入使用。
通过与 Palantir 合作,NVIDIA 的供应链团队正在借助 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation,部署专用 Agent,从专有数据中提炼可付诸行动的业务洞察,预测结果并优化决策。
Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 配合使用,为能够感知上下文的 Agent 提供支持。
Snowflake 正在让客户能够在 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,获得更多预测能力。
NVIDIA Nemotron Retriever 模型让搜索更快、更准确。Amazon OpenSearch Service 使用其中的 embedding 模型,以更少的搜索步骤提升了相关性,几乎没有增加延迟。SAP 微调后的 reranker 运行速度提升至近 3 倍。ServiceNow 在提升 reranking 质量的同时,将延迟降低了近四分之一。Zoom 正在使用 Nemotron Retriever 模型,改善 Zoom AI Services 的文档理解、搜索相关性和上下文检索能力。
Amazon Web Services(AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 也在基于 Agent Knowledge Foundation 构建产品与服务。
参加 GTC Berlin 这场关于在生产环境中构建、部署和优化专用 Agent 的分享,了解更多信息。