LeRobot机器人库v0.5发布
Hugging Face机器人学习库更新。对做机器人和强化学习的程序员有用,但适用人群有限。
Hugging Face机器人学习库更新。对做机器人和强化学习的程序员有用,但适用人群有限。
LeRobot v0.5.0 增加了对 Unitree G1 人形机器人的完整支持(全身控制模型)、新策略——包括 Pi0-FAST 自回归 VLA 和实时分块(Real-Time Chunking)用于响应式推理——以及流式视频编码,消除了录制任务间的等待时间。该版本还引入了 EnvHub 用于从 Hugging Face Hub 加载仿真环境、NVIDIA IsaacLab-Arena 集成,以及包括 Python 3.12+、Transformers v5 和第三方策略插件的重大代码库现代化。
LeRobot v0.5.0 显著扩展了支持的硬件阵容——从机械臂和移动机器人到完整人形机器人。
该版本最大的硬件补充:全面的 Unitree G1 人形机器人支持。这是 LeRobot 的首次人形机器人集成,并且功能全面:
G1 集成代表了 LeRobot 向通用机器人迈出的重要一步——从桌面机械臂进入全身具身 AI。你可以按照文档尝试使用它。
我们已添加了对 OpenArm 机器人及其配套的 OpenArm Mini 遥操设备的支持。OpenArm 是一款能力强大的机械臂,具有完整的 LeRobot 集成,Mini 作为其天然的遥操设备。两者都支持双臂配置,可实现双臂设置以完成更复杂的操纵任务。详见文档。
硬件生态系统不断增长:
通过 CAN(控制器局域网)总线的新电机控制器支持,为更高性能的执行器敞开了大门:
这些补充意味着 LeRobot 现在可以驱动超越现有 Dynamixel 和 Feetech 生态系统的更多专业级执行器。
这个版本将六个新策略和技术引入 LeRobot,推动了开源机器人学习可能性的边界。
Pi0-FAST 使用 FAST(频率空间动作序列标记化)将自回归视觉-语言-动作(Vision-Language-Action)模型引入 LeRobot。与 Pi0 的流匹配方法不同,Pi0-FAST 使用基于 Gemma 300M 的自回归动作专家,生成离散化的动作标记,实现:
lerobot-train \
--policy.type=pi0_fast \
--dataset.repo_id=lerobot/aloha_sim_insertion_human \
--policy.device=cuda
实时分块是来自 Physical Intelligence 的推理时技术,使流匹配策略的反应能力大幅提升。与等待完整动作块完成后才重新规划不同,RTC 持续将新预测与进行中的动作混合,产生更流畅和更灵敏的行为。
RTC 不是一个独立的策略——它是一个增强功能,可以插入现有的流匹配策略中(Pi0 系列、SmolVLA 和扩散)。通过 --policy.rtc_config.enabled=true 配置。
对于延迟至关重要的现实部署,这是一个游戏规则改变者。阅读原始论文了解技术细节和我们的文档。
Wall-X 是一个新的 VLA 策略,基于 Qwen2.5-VL 和流匹配动作预测。它将 Qwen2.5-VL 强大的视觉-语言理解能力与用于跨具身机器人控制的流匹配头相结合。
pip install lerobot[wall_x]
lerobot-train \
--policy.type=wall_x \
--dataset.repo_id=lerobot/aloha_sim_insertion_human
X-VLA 为 LeRobot 带来了基于 Florence2 的 VLA。建立在微软 Florence-2 视觉-语言模型之上,X-VLA 为 VLA 策略提供了另一个骨干网络,扩展了机器人学习可用的基础模型的多样性。查看训练指南了解设置说明和基础模型。
pip install lerobot[xvla]
lerobot-train \
--policy.type=xvla \
--dataset.repo_id=lerobot/bimanual-so100-handover-cube
SARM(阶段感知奖励建模)解决了机器人学习中最难的问题之一:长视界任务。它不使用单一的全局线性进度信号覆盖整个任务,而是通过预测任务阶段和该阶段内的进度,以阶段感知的方式建模进度。这使得为复杂的多步操纵任务训练策略变得容易得多。按照文档开始实验吧。
你现在可以使用 LoRA(和其他 PEFT 方法)微调大型 VLA,而无需修改核心训练管道。PEFT 配置位于策略级别,使得用计算成本的一小部分将巨大的基础模型适配到你的特定机器人和任务变得简单直接。阅读文档了解更多。
lerobot-train \
--policy.type=pi0 \
--policy.peft_config.use_peft=true \
--dataset.repo_id=lerobot/aloha_sim_insertion_human
数据集管道在这个版本中获得了重大性能改进,使数据收集和训练都显著加快。
之前,录制数据集意味着在每个任务后等待视频编码完成。现在不用了。通过流式视频编码,帧在被捕获时实时编码——意味着任务之间的等待时间为零。只需完成一个任务,立即开始下一个。
流式编码还支持硬件编码器自动检测,所以如果你的系统拥有 GPU 加速视频编码器,LeRobot 会自动使用它:
dataset = LeRobotDataset.create(
repo_id="my/dataset",
fps=30,
video_backend="auto", # Auto-detect best HW encoder
streaming_encoding=True, # Encode in real-time
)
流式编码的性能可能因你的硬件和录制设置(摄像头数量、分辨率等)而差异很大。在启用它之前,请务必查看流式视频编码文档。
在引擎盖下,我们修复了关键的数据访问瓶颈并彻底改进了图像处理:
数据集编辑工具包持续增长:
EnvHub 是在 LeRobot 中使用仿真环境的一种新方式:直接从 Hugging Face Hub 加载它们。与其本地安装环境包并进行连接注册不同,你现在可以将 LeRobot 指向一个 Hub 存储库,它处理一切——下载环境代码、将其注册到 Gymnasium,并使其可用于训练和评估。
Hub 环境使用 HubEnvConfig,它下载并执行远程 make_env 函数:
lerobot-train \
--env.type=hub \
--env.hub_path="username/my-custom-env" \
--policy.type=act
这降低了与社区共享自定义仿真环境的门槛。打包你的环境,推送到 Hub,任何人都可以在其上训练。查看文档了解更多。这是一个入门示例:LeIsaac x LeRobot EnvHub 教程。
我们已集成了 NVIDIA IsaacLab-Arena,为 LeRobot 带来了 GPU 加速仿真。IsaacLab-Arena 在 NVIDIA 的 Isaac Sim 上提供了一系列操纵任务,为快速强化学习提供了大规模并行环境实例。该集成包括专用的预/后处理步骤和与 LeRobot 训练管道的完整兼容性。查看文档。
这个版本实现了代码库的现代化:
pip install lerobot_policy_mypolicy 并使用 --policy.type=mypolicy 使用它。无需核心库更改。按照文档学习如何做。除了这些头条功能,v0.5.0 还包括数百个错误修复、文档改进、CI/CD 增强以及整个代码库的生活质量改进。从更好的类型检查到更强大的测试基础设施,我们正在投资于使 LeRobot 在扩展时可靠和可维护的基础。
我们要向社区中的每一个人——贡献者、用户和合作者——致以衷心的感谢,感谢你们帮助 LeRobot 成长为今天的样子。每个错误报告、PR 和讨论都使这个项目更好。
敬请期待更多精彩内容🤗 从这里开始!——LeRobot 团队 ❤️
有一个大惊喜即将到来,敬请期待!👕
本文提到的模型 2
本文提到的 Spaces 1
本文提到的论文 1
本文提到的合集 1
来自我们博客的更多文章
Grabette:记录机器人操纵数据的开放系统
LeRobot v0.6.0:想象、评估、改进
·登录或注册来评论
本文提到的模型 2
本文提到的 Spaces 1
本文提到的论文 1
本文提到的合集 1