跳到主要内容
Evolvant
订阅

SuperMimic:用一个可微世界模型扩展人形机器人全身控制

SuperMimic 提出用一个可微世界模型摊销人形机器人全身运动跟踪的学习成本,该世界模型由标准刚体仿真器的转移数据拟合,并与跟踪策略在同一循环中联合训练,通过短时想象 rollout 的时间反向传播提供解析梯度。在单块 GPU 上训练 3 小时,其回报超过在 128 块 GPU 上训练 7 天的当前最优基线,GPU 小时数减少超过 1000 倍;在 129,514 个基准运动上失败 25 个,基线失败 179 个。两块 GPU 训练 9.8 小时后实现零失败,策略可迁移到实体 Unitree G1 完成多样高难度动作。

发布于 10-22 10:56来源:arXiv cs.RO

转载 · 官方发布原文:arXiv cs.RO ·《SuperMimic: Scaling Humanoid Whole-Body Control with One Differentiable World Model》查看原链

arXiv:2610.28480v1 公告类型:新论文 摘要:跟踪大规模人体运动数据集已成为实现通用、富有表现力的人形机器人全身控制的主流路线,但跨大量运动进行扩展的成本很高。 现有流程使用无模型强化学习,要么通过有损蒸馏合并针对单个运动的专家策略,要么用集群级算力强行训练单一策略。

SuperMimic 用一个可微世界模型对所有运动共享的动力学进行建模,从而将学习摊销到所有运动上;该世界模型由标准刚体仿真器记录的转移数据拟合得到。 世界模型与跟踪策略在同一循环中联合训练,通过在短时想象 rollout 上执行时间反向传播,为策略提供解析梯度。

快速的想象 rollout 与解析梯度使策略学习变得高效。 在单块 GPU 上训练 3 小时,SuperMimic 的回报就超过了在 128 块 GPU 上训练 7 天的当前最优运动跟踪基线。 它将 GPU 小时数减少超过 1000 倍,在 129,514 个基准运动上仅失败 25 个,而基线失败 179 个。

在两块 GPU 上训练 9.8 小时后,SuperMimic 实现零失败。 从 1 小时到 264 小时的运动数据,世界模型的预测误差保持稳定,达到目标回报所需的 GPU 小时数增长缓慢。 该策略可迁移到实体 Unitree G1 机器人,完成多样且高难度的动作。

SuperMimic 消除了算力这一扩展人形机器人全身控制的瓶颈,使测量运动跟踪的扩展规律变得可行。

来源arXiv cs.ROen原文发布 10-21访问原文