NVIDIA Jetson 高效计算让 AI 部署更便携
NVIDIA 强调其 Jetson 系列在边缘设备上的高效计算能力。面向寻求本地 AI 方案的开发者。
NVIDIA 强调其 Jetson 系列在边缘设备上的高效计算能力。面向寻求本地 AI 方案的开发者。
作为一名既看重风格、也看重实力的资深 AI 投资人,Sarah Guo 深知,本季最亮眼的配饰并不是最新款设计师手袋,而是手袋里装的东西。
在最近的一段视频中,AI 原生风险投资公司 Conviction 创始人、AI 播客 No Priors 联合主持人 Guo 展示了 NVIDIA Jetson 边缘 AI 与机器人平台如何为忙碌的开发者兼顾强大算力与便携性。这是一套为物理世界以及各行各业打造、可支持 Agent 的 AI 平台。最棒的是?整套设备都能装进一个手袋。
NVIDIA Jetson 模组与开发者套件小巧到可以随身装进包里,性能却足以应对最棘手的问题。无论灵感在教室、实验室还是创客空间涌现,它都能为机器人、自主机器以及现实世界中的 AI 项目提供动力,让开发者能够采用推动行业变革的前沿开放模型进行构建,同时达到最高标准的安全与保障要求。
无论是学生使用 Jetson Orin Nano Super 完成自己的第一个机器人项目,教授使用 Jetson AGX Orin 将前沿 AI 引入课程,还是研究人员借助 Jetson AGX Thor 挑战自主系统的极限,这个平台都能帮助他们构建、学习并推出下一代智能机器人——覆盖每一间教室、每一座实验室和每一个国家。
正如 Guo 所展示的:你负责带包,Jetson 负责带来机器人的大脑。
本周请持续关注这里发布的一系列案例。我们将从下面介绍的 Jetson Orin Nano Super 开始,帮助开发者了解 NVIDIA Jetson 平台,并着手实现下一项机器人技术突破。
机器人理应拥有一颗真正的大脑,而且显然,它的通勤方式也可以时髦得不可思议。当 Guo 把 Jetson Orin Nano Super 放进她的 Jacquemus Mini 手袋时,完整的 AI 技术栈便近在指尖——现在它还有了一个可爱的手柄,真是相当「clutch」!
Jetson Orin Nano Super 将桌面级生成式 AI 装进一个适合随手放入手袋的开发者套件,为初次上手的构建者提供了一条学习计算机视觉、构建 AI Agent、制作边缘 AI 原型等技术的实用途径。凭借每秒 67 万亿次运算(TOPS)的 AI 性能,Jetson Orin Nano Super 可以帮助开发者开始解决那些一直想要攻克的问题。为了帮助构建者从灵感走向实现,NVIDIA Jetson Device Skills 和 Jetson BSP Skills 让学生、研究人员与开发者能够更轻松地利用编码 AI Agent,在边缘端创建、优化和部署现实世界中的 AI。以下这些 Jetson Orin Nano Super 创新实践,可以启发机器人构建者启动自己的第一个——或下一个——梦想项目:
一个定制的 SidewalkPilot AI 模型使用 Jetson Orin Nano Super,在玩具电动车中自主完成各种驾驶操作。
Reachy Mini Jetson Assistant 是一款面向 Reachy Mini Lite 的低延迟、完全在设备端运行的语音与视觉助手,由 NVIDIA Jetson Orin Nano Super 提供支持。所有任务都在本地通过 GPU 加速运行——运行时不需要云服务、不需要 API keys,也不需要互联网连接。由此开始上手。
Coding with Lewis 使用开放权重模型 Mistral 构建了一个由 AI 驱动的机器人,证明初次接触机器人开发的人也能利用 Jetson Orin Nano Super 从零开始完成构建。
Asier Arnaz 使用 Jetson Orin Nano Super 打造了一档由 Yocto 驱动的 Robotics AI 视频播客,其中两个 AI 模型会实时讨论不同话题,并重点展示创客们正在边缘端创造的成果。
获得灵感了吗?加入我们的直播系列即可开始上手。通过三个模块,开发者可以学习如何运行生成式 AI、构建机械爪 Agent,以及引入视觉语言模型和视觉-语言-动作模型,为现实世界中的物理 AI 应用提供支持——所有这些都可以在 NVIDIA Jetson 上完成。
当工作负载变得更加复杂时,拥有 275 TOPS AI 性能的 Jetson AGX Orin 就能派上用场。对 Guo 来说,道理很简单:TOPS 越多,手提包越大。
对于更高阶的创客,Jetson AGX Orin 可以将 AI 的全部能力引入课程教学、毕业设计和应用研究,为高级机器人、自主机器以及边缘 AI 提供动力——同时证明,严肃的 AI 不必再局限于服务器机房,也不再只是少数有能力负担服务器的人才能拥有的技术。
Jetson AGX Orin 让构建者可以在真实环境中检验真实创意,然后把整套设备带到课堂、实验室、演示台,甚至第一次投资人会议上。
凭借对高级机器人课程和严肃创业项目的广泛适用性,Jetson AGX Orin 可以支持计算机视觉、生成式 AI、自主导航等能力。无论是打造配送机器人、智能视觉能力还是工业自动化系统,它都非常适合推动几乎所有行业的转型。
通过以下 Jetson AGX Orin 创新实践,将项目提升到新的层次:
一个基于浏览器的界面能够流式展示 Jetson AGX Orin 上的实时视觉语言模型推理,让用户可以通过摄像头画面与 VLM 实时交互。
卡内基梅隆大学一支机器人团队开发的自主系统,可以在时间紧迫的救援场景中一边构建环境的 3D 地图,一边搜寻幸存者。
学校放假了,机器人构建者们却要开始认真干事业了。规模最大的工作负载理应配备最强大的大脑,而 Jetson AGX Thor 名副其实,可提供最高 2070 FP4 teraflops 的 AI 算力和 128GB 内存。听专家一句:要么像 Guo 一样玩大的,要么回课堂继续学习。当然,更大的大脑自然需要更大的包。
作为面向下一代人形机器人和自主系统的终极平台,Jetson AGX Thor 专为那些需要在边缘端进行复杂实时推理的系统而生——这正是每一个机器人都在等待的大脑。它为实验室、工厂和野外现场中最具挑战性的工作负载提供服务器级算力和 AI Agent 能力,覆盖全球每个角落的各行各业。
有了 Jetson AGX Thor,未来已正式被收入囊中。以下这些 Jetson AGX Thor 创新实践,将帮助你放手构建更宏大的项目:
伊利诺伊大学厄巴纳-香槟分校 SIGRobotics 团队凭借一个项目赢得黑客松冠军:两只机械臂在 Jetson AGX Thor 上运行 NVIDIA Isaac GR00T N1.5 模型,自主完成倒入、调制和搅打抹茶的全过程。
Jetson AGX Thor 上的一个创意开发环境融合视觉、音频和语言输入,让开发者能够在边缘端开展丰富的多模态 AI 实验。
任何人都能让机器人动起来,而 Jetson 能让它思考,将前沿 AI 交到世界各地每一位构建者手中。那么,哪一款 NVIDIA Jetson 模组最适合你?从当前合适的型号开始,准备好后再升级。是这样吧,Guo?
进一步了解 NVIDIA Jetson。