研究团队提出 HuGe 系列人形通用视觉-语言-动作模型(VLA),在超过 2000 小时的第一人称人类与机器人数据上预训练,采用三种现有代表性 VLA 架构,为预训练全身控制器预测潜在运动 token 并输出手部控制信号。训练分三阶段:第一人称预训练、人形适配、下游微调;预训练时通过仿真回放构建伪本体感知状态,微调时通过重渲染修改第一人称观测中的手臂外观以缓解形态差异。HuGe 在仿真基准 HumanoidArena 上取得最先进结果;在 Unitree G1 上的真实实验显示,用视觉适配的第一人称示范增强机器人示范可显著提升抓取放置任务成功率。
机器人行业洞察
今日精选
The robotics journal行业消息
该论文提出 HumanoidNDM,一个由真实世界训练的神经动力学模型驱动的人形机器人运动跟踪在线微调框架,用于弥合训练与部署之间的动力学差距。数据采集阶段采用带自适应强度机制的低频参考扰动方法;模型训练阶段在欧氏空间中训练基于历史本体感知的神经动力学模型,并引入可微前向运动学,从而不依赖动作捕捉系统;策略微调阶段通过反向传播模型梯度直接微调策略。作者在 Unitree G1 机器人上完成物理验证,称其能快速适应多种扰动,并称这是首个面向人形机器人跟踪策略的在线、无需动作捕捉的微调框架。
X-World 框架通过固定长度 token 序列将视频扩散模型先验迁移至共享动作专家,用残差跨视角注意力分支把预训练视频骨干扩展至一至三视角并保留原自注意力路径,层对齐 Q-Former 聚合骨干特征,数据集特定模块映射原生状态/动作接口。训练分两阶段:先冻结视频骨干做仅动作预训练,再联合目标域后训练;执行时单次骨干前向提取特征并采用异步动作分块。LIBERO 上平均成功率 98.5%,其检查点在 LIBERO-Plus 上零适配达 76.5%;六个双臂真实任务每任务 20 次试验平均成功率 81.7%。消融显示移除视频适配或跨视角融合的降幅最大。
RoboLongR 提出离线到在线的框架,学习依赖历史的奖励以引导策略适应新任务,核心目标是因果一致性,即被奖励的进展须与执行历史支持的前提条件对齐。方法包含阶段打乱监督、循环记忆和两轮训练,奖励引导阶段条件策略从行为克隆精炼至在线强化学习。在 88 个 RLBench 任务和 Open-X 数据上预训练后,该工作在未参与奖励预训练的 18 个长程任务上平均成功率 31.8%,高于最强基线 9.2 个百分点;四个真实机器人任务成功率 57.5%,比对比方法高 32.5 个百分点。
研究提出 Scan2Instruction 与 PRPT-KS 两项设计:前者将一次 iPhone 扫描编译为完整训练环境,自动合成带接地指令的可执行导航回合,替代现场遥操作采集人类演示;后者通过从重建场景直接读取的闭式帕累托效用完成策略自适应,无需学习评论家与人工标注。在五个真实环境中,二者结合使 RealNav 真实机器人成功率达 85%,基于人类演示后训练的基线为 49%;在同一建筑未扫描区域成功率为 82%,基线为 41%。
论文提出Open-World Law-to-Action(L2A)框架:视觉-语言模型为每个可动部件提议运动方式、运动规律参数及可能的锁定因素,形成带下限的先验,触觉可随时推翻。机器人用带闭式证据的贝叶斯线性回归在线识别部件运动规律,并保留“未见部件或运动锁定目标”的假设;作者证明仅靠触觉无法排除该假设,并推导出何时值得再次观察。全部实验在仿真中进行,新厨房场景下基于VLM提议的任务完成率为80%,部件全部已知时为98%;所提物理先验使需要新参数的物体成功率从353/400提升至378-383/400,二次观察使混合场景成功率从284/366提升至329/366。
论文提出EXE,一种自我中心跨具身(Egocentric Cross-Embodiment)预训练框架,从人类第一视角操作视频中学习因子化潜在动作表示,将共享的操作先验与具身特定信号分离。作者认为人手与机器人共享伸手、抓取、放置等操作基元,但运动学因具身不同而存在差异,因此需解耦人类特有运动模式以避免干扰机器人策略学习。该方法使同一预训练可同时受益于平行夹爪与灵巧手,在RoboTwin 2.0、RoboCasa GR1及真实世界操作任务上相对无预训练基线取得一致提升。
该论文提出 MimicAll 强化学习框架,用结构化具身描述符编码全局与关节对齐条件,结合观测历史和身体匹配的运动参考预测关节目标偏移,支持跨异构人形机器人共享全身运动跟踪。训练覆盖 16 个人形机器人家族的 4,096 个变体,并构建含 464 个身体、五个分布层级的基准。相同训练转移量下,共享训练在 100STYLE 随机化 G1 身体上 30 秒成功率为 99.4%,单身体专用策略为 42.9%;身体条件不匹配使自注意力成功率从 61.7% 降至 47.0%。
arXiv 新论文提出 HA-DiPO(异构智能体扩散策略优化),一个面向异构腿式机器人协同搬运非固定共享负载的分层多智能体强化学习框架,采用集中训练、分散执行(CTDE)架构。高层由集中式评论家利用团队价值估计联合训练各机器人独立的协调策略,低层用本体特定的鲁棒运动策略跟踪协调指令;高层采用扩散策略而非单高斯参数化,以表示潜在的多模态协调响应。策略通过奖励驱动的仿真交互从零学习,无需演示数据;执行时各机器人仅用本地机器人与负载观测生成指令,不依赖伙伴状态或机器人间通信。仿真中最终平均回报、速度跟踪成功率高于基线且速度误差更低,真机实验演示了四足轮腿机器人与人机协同搬运。
研究者提出 WorldFailBench 基准,用于检验世界模型能否忠实模拟机器人策略的失败方式,包含失败原因、失败阶段、失败边界三项评估任务。基准覆盖 LIBERO 与 RoboTwin 仿真环境中的操作任务,以及 G1 人形机器人在真实世界执行的操作任务。对七个世界模型的实验显示,这些模型在理解策略失败方面存在显著差距。
一篇综述统计了113种基于学习的灵巧手操作方法,发现该领域已基本收敛到同一范式:在GPU仿真器中基于特权状态做强化学习,再蒸馏为仅依赖视觉的学生策略迁移到硬件;近一半语料采用该路线,且几乎全部集中在一个仿真器中,其后续版本鲜少被使用。另一条增长更快的分支从遥操作演示学习,采用视觉-语言-动作模型、扩散策略,或贡献在于采集装置本身的系统。已发表工作自2022年以来增长两倍,抓取为最大任务类别,双臂协调增长最快,几乎所有实验集中在四种手上。综述还指出,八种可购买或按公开设计制造的手未出现在任何方法论文中。
论文提出多约束灵巧策略优化方法MDPO,将灵巧操作建模为同时包含累积代价约束与逐状态代价约束的多约束策略优化问题,并把多约束投影集成进策略优化过程:用约束特定的策略投影,把最大化任务性能的中间策略映射到两类约束定义的可行域。在ReDMan平台的关节安全控制、手指安全与抓取任务实验中,MDPO相比基线约束满足更优,任务性能保持竞争力,代码已公开。
研究提出一种面向人形机器人任务策略的运行时监控框架,用于在不可恢复跌倒发生前及时触发回退。该方法将监控器合成表述为学习给定回退策略的随机有限时域可恢复性包络,并把数据探索重构为到达-规避问题,由不确定性引导的探索器系统发现未见状态、避开确信不可恢复区域。框架在价值学习与主动探索之间迭代,结合时间差分与蒙特卡洛目标提升分布内价值预测与不确定性估计,并将高不确定性区域显式视为不可恢复以抑制分布外乐观幻觉。在随机基准和29自由度Unitree G1人形机器人上评估,监控覆盖率和准确性大幅提升,并实现零样本迁移到真实硬件。
MOTIO 系统将人类动作视频、3D 资产、运动参考与可复用技能转化为人形机器人移动操作程序,通过上下文任务与接触推理构建分阶段交互,并借助物理执行、多帧反馈和人工验证迭代,无需任务特定遥操作或机器人演示采集。33 次带时间戳的首次批准中,智能体轮次时间中位数 97.0 分钟,请求到批准时长 2.80 小时。在扫描办公室中,G1 完成连续 101.75 秒的瓶子处理物理执行;物理细化使拧螺丝螺纹残差降低 76.0%。智能体生成的技能还用于监督 BC/DAgger 蒸馏至共享参考策略,同一检查点完成 18 个仿真任务,无需推理时专家干预。
论文提出自研轮足双足机器人 RAIWAY,采用 20 英寸大轮径,并配套接触信息驱动的滚动运动控制方法,面向不规则、不连续地形。该方法在仿真中把多接触事件蒸馏为潜在表示,部署时仅靠本体感知在线推断,无需接触传感器。实机实验中,系统通过陡坡、砾石地、钉状表面与岩石地形,并在户外楼梯上连续爬升,台阶高度最高 15 cm;在室内外挑战场景中,其表现优于不含接触信息机制的基线控制器。
研究团队在 Habitat 3.0 中构建 TouchSafeBench 基准,包含 2,940 个模拟室内共处片段,覆盖社交导航与社交重排,配有同步多视角 RGB-D、俯视轨迹图、标定相机元数据及仿真器接触标签,用于评估视觉语言模型的碰撞接地能力。测试三个前沿或机器人学导向 VLM 与九种视觉表示,最佳平均 Macro-F1 低于 50%,显式深度未自动转化为机器人本体碰撞证据,机器人与场景接触的判断持续难于与人接触风险。
研究团队发布 ContactBench 1.0 富接触操作基准,基于对日常人类操作的观察归纳出八项基本技能,用 36 个参考任务和 40 多个物体资产实例化。资产可在消费级 3D 打印机上可复现制造,每个资产配有匹配仿真模型,并支持真实与仿真环境中的受控任务变体以评估泛化。在六个任务上评估近期纯视觉与视觉-触觉策略学习方法:纯视觉策略难以感知或响应接触事件,视觉-触觉策略也未带来显著性能提升。基准将在项目页开源。
研究团队在 Shadow Dexterous Hand Lite 上仅用本体感觉和二值触觉反馈(无视觉)完成保定球旋转的零样本仿真到现实迁移,单次连续试验实现 225 次连续 180° 旋转(112.5 整圈),速度约 0.36 转/秒。方法包括传感器对齐的耦合感知仿真具身建模、触觉校准,以及压摆率动作限制和 STuck-AT Taxels 两种回合级域随机化。论文还对比触觉与仅本体感觉的贡献,定位触觉信息最关键的手部区域,并称该结果为保定球操控在旋转次数与速度上的最强硬件报道。
论文提出HGWM,将LLM生成的房间锚点先验与持久空间语义记忆结合,用于零样本物体导航:粗阶段以0-10分对候选朝向打视觉语义分,细阶段衡量观测物体、房间上下文与目标先验的符号兼容性,再经相位相关融合与LLM方向建议结合后选择局部动作。在HM3D v0.1上报告62.6% SR、31.5% SPL,WMNav为58.1%、31.2%;MP3D上为46.8%、17.9%,对比45.4%、17.2%;HM3D v0.2完整模型为74.4% SR、31.9% SPL。组件消融使SR下降0.9-2.3个百分点、SPL下降0.6-1.5点。作者称实现通过离线测试,但无逐回合重跑记录,评估仅限仿真。
arXiv 论文提出 ArtifactArena 开放式评测平台,要求模型完成物理落地的软硬件协同设计任务:设计功能完整的机器人,并在仿真竞技场中对战。评测覆盖零样本、验证器引导的迭代优化和开放式物理设计三种能力,分别依据文本描述、物理仿真器反馈和对战数据改进机器人制品;模型排名由制品间一对一锦标赛的 Elo 分决定。框架与锦标赛基础设施对外开放,供社区持续提交,以构建不会饱和的测试平台。

