英伟达推出新开放模型,面向企业自有数据中心和个人电脑上的 Agent 运行场景。报道强调本地部署与隐私需求,但摘要未提供模型规格或性能数据。
Nvidia 周四推出了新的 open-weight 模型,面向全天候运行的 Agent 和边缘计算。
Nemotron 3.5 Super VL 是一款拥有 1200 亿参数的大模型,主要面向企业使用的 Agent。虽然它的参数量少于 Nemotron 3 Ultra,但 Nvidia 表示,它在指令遵循和工具使用任务上可以达到相近的准确率。
另一端,Nvidia 还推出了两款轻量级 Bolt 模型。这些模型旨在本地运行于新款 AI PC(搭载 Nvidia RTX Spark 芯片)以及搭载 DGX Spark 的工作站。这类 PC 面向消费者、程序员和企业知识工作者,目前正通过 Microsoft、Dell 等合作伙伴陆续上市。
Nvidia 开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道:“任何希望在 Nvidia 基础设施上运行 Agent 的组织,现在都能找到适合自身部署层级、经过优化的开放模型,无须在能力和可部署性之间取舍。”
Nvidia 声称,针对特定 Agent 任务进行 post-training 后,Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能处理、财务会计、科学实验、医疗保险理赔,以及抵御安全攻击。
大型科技公司每次发布新模型,都会作出类似的宣称。不过,Nvidia 还列出了一批重量级企业作为佐证,称它们正在使用 Super VL,包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。
当然,这并不是 Nvidia 首次发布 open-weight 模型,与开发专有模型的前沿 AI 实验室竞争——这些公司既是它的客户,也是它的投资对象。这家 GPU 巨头已经拥有完整的 Nemotron 模型家族,覆盖多模态人工智能、推理、编程、数学和企业自动化等领域。
不过,那些快速发展的专有 AI 实验室,如今正在 Nvidia 之外寻找更多芯片和 AI 系统供应商来满足需求,例如 AWS 的 Trainium 和 Cerebras,同时也在开发自己的芯片。
因此,Nvidia 正大力顺应企业希望在自有数据中心运行自有开放模型的趋势。Briski 写道:“与封闭的前沿模型不同,组织可以使用自己的数据对 Super VL 进行 post-training,将其部署在自己的基础设施上,并拥有自己构建的成果。”
而随着面向本地 PC 的小型模型一同发布,Nvidia 也在试图推动尚处萌芽阶段的消费者 AI 助手趋势。初创公司和科技巨头似乎每天都在推出新的 AI 助手,但对隐私感到担忧的消费者,未必愿意让这些 Agent 如此深入地介入自己的生活,允许它们访问家庭、健康、财务等信息。
因此,Nvidia 希望通过打造能在本地运行模型和 Agent 的机器,为搭载自家芯片的 PC 开辟新市场;与此同时,Briski 写道,PC 用户“可以把日常项目交给 Agent……无须将这些工作负载发送到云端”。
两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 拥有 740 亿参数,专为本地 Agent 任务设计。它力求在速度与推理能力之间取得平衡,以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话式 Agent。
Nvidia 表示,Super VL 和 Bolt 74B-A9B 现已推出,Bolt E4B 将于本月晚些时候发布。