GE-Act 2.0 是一个世界-动作模型,其生成组件与动作组件全部在操作数据上从零初始化,未继承预训练视频生成器。模型由面向控制的自编码器 CoAE、单步视觉规划器 SVP 和逆动力学模型 IDM 组成,先分别在互补数据上预训练,再用知识对齐的选择性优化 KASO 联合训练。在 20 个技能组共 100 个任务上直接评估预训练检查点、不做逐任务微调;联合训练数据从 300 小时扩至 30,000 小时,G1-OP 成功率由 17.1% 升至 44.1%,G2-90D 由 13.4% 升至 31.1%,后者数据占比不足 2% 仍提升 17.7 个百分点,提示跨具身迁移。
机器人行业洞察
今日精选
The robotics journal行业消息
研究团队在Idealworks的iw.hub差速驱动机器人与全向人形移动平台(HMP)上,测试NVIDIA X-Mobility与COMPASS学习型导航工作流的sim-to-real可靠性,并构建Idealworks研发中心数字孪生。在数字孪生中微调X-Mobility并加入NVIDIA Cosmos生成的sim-to-real增强数据后,策略部署于iw.hub板载Jetson AGX Xavier,在真实研发中心四个场景的成功率由65.3%升至91.7%,加权行驶时间较仅仿真训练近乎减半,与现有生产导航栈差距8.3个百分点,且全程板载运行;配合全局规划器可在每次试验中到达远处被遮挡目标。
研究团队提出世界动作模型 VPP2,通过整理大规模多样化操作视频数据集,对基础视频模型进行事件级继续预训练,并将其蒸馏为固定预测时域的单步视觉规划器,再以混合 Transformer(MoT)架构接入动作模块学习隐式逆动力学。实验显示,VPP2-14B 在开放式任务视频预测指令遵循成功率上比 Cosmos3-64B 高 11.0 个百分点;在真实世界零样本 ALOHA 操作任务上比最强基线高 18.5 个百分点;经基准特定后训练后,在 LIBERO-Pro、LIBERO-OOD 与 RoboDojo 上取得所评估方法中的最高成功率。
研究团队提出 IG-VLA 视觉-语言-动作推理框架,其潜在时空推理直接在视觉表征空间想象与任务相关的未来场景演化以指导动作预测,避免像素级视频生成;场景要旨记忆把推理得到的场景-行为关联压缩为场景要旨 token,使推理阶段无需显式未来想象。在 LIBERO、LIBERO-Plus、VLABench 上测试,LIBERO-Plus 语言套件中推理策略与要旨策略成功率均比最强基线高近 6%;要旨策略在单块 NVIDIA A6000 上实现最高 6.38 倍加速,每动作块推理延迟从 1081ms 降至 169.5ms。
研究团队发布 JRDB-AVR 基准,基于真实世界 JRDB 机器人数据,通过结构化问题生成引擎构建,要求具身智能体按时间戳和视角请求有界观察,并同时评估最终答案与支撑该答案的视觉证据。基准问题覆盖时间搜索、视角选择和面向人类的组合推理。团队同时提出参考方法 JRDB-AVR-Agent,维护显式的、基于观察的图结构世界模型并通过求解作答。实验显示当前基线答案准确率与证据准确率存在显著差距,VLM 可给出缺乏证据支持的正确答案。代码与基准已在 GitHub 开源。
arXiv 2605.29864v2 提出未来经验条件化(FEC)接口,将闭环策略条件化于短未来视频的潜在表示。未来片段分三阶段生成:LLM推理器在任务本体上推理、无机器人数字孪生推演物体运动、无掩码视频扩散模型合成与机器人一致的未来片段。在RoboCasa和CALVIN上以BC与BC+RL实例化,对比NoFuture、GTFuture、GenFuture、WrongFuture四种条件及SFP基线:生成未来优于无未来条件,不匹配未来则降低性能,BC+RL整体最强;8个CALVIN任务上GTFuture提升最快,GenFuture早于且高于NoFuture,WrongFuture全程为零。
该研究构建了一套面向农业抓取与采摘的仿真到真实机器人学习框架:基于MuJoCo搭建包含多种番茄植株结构的农业仿真环境,通过手柄遥操作采集专家演示,并用底层控制器执行机器人动作。研究将Octo与π0.5两个预训练通用机器人策略在仿真演示上适配,随后在实体Franka Research 3机械臂上用真实机器人演示进一步微调,并在分布内、视角/空间偏移和分布外条件下评估,同时考察本体感知信息对策略性能的影响。结果显示π0.5的任务表现得分高于Octo,且在分布偏移下性能退化更小。
研究提出 LAW 闭环框架,用混合专家视觉语言模型规划子任务并异步评估执行状态,融合世界-动作模型生成的动作,WAM 内部以 Mixture-of-Transformer Experts 做联合视频-动作建模,双流分层视觉记忆维护时序上下文。在 50 个 RoboTwin 任务上平均成功率 94.21%,将 WAM 主干换成 OpenWAM-α 后升至 95.56%,称创 RoboTwin 开源最优;2B 参数 VLM 优于 Embodied-R1.5 与 GPT-5.5 High 变体。三个长程真机任务平均成功率 65%,对比 π0.5 的 28.33% 与 Fast-WAM 的 25%。
研究团队提出 CLARO,一个由视觉语言模型(VLM)驱动的智能体,负责编排开放词汇目标检测、分割、6 自由度抓取和非抓取式推动等技能,用于在杂乱环境中定位并取出语言指定的目标。系统维护过往动作记忆以支持长时程执行,输出抓取位姿或 3D 路点,无需任务特定训练即可跨机械臂迁移。在动态仿真环境与标准图像基准上,CLARO 平均成功率为 89.1%,在高杂乱场景中相对最强对比方法提升超过 16%;部署到真实机械臂后成功率为 88.8%,展示了仿真到现实的泛化能力。
研究团队提出 PlayPolicy(DSP)框架:机器人先通过行为克隆从数分钟人类玩耍数据中学得玩耍策略,再自主运行数小时采集交互数据训练世界模型;推理时该策略为模型预测控制(MPC)提出候选动作序列,由世界模型评估,并可用世界模型内自我对弈蒸馏闭环目标条件策略加速推理。在仿真与真实世界的多指手欠驱动推动和任意到任意手内姿态重定向任务上,真实实验成功率比事后行为克隆高 69.6%,交互数据量比强化学习少 490 倍而成功率相当,且无需任务特定演示或 sim-to-real 迁移。
研究团队提出 CapPro 框架,使预训练 VLA 策略仅凭单段人类演示视频即可适配此前未见的操作任务,无需目标任务机器人演示或微调。该框架由两部分组成:阶段感知人类视频表示模块通过视觉 token 选择构建紧凑视频表示,并在阶段字幕监督下学习任务相关查询表示;视频条件适配模块将紧凑视频与查询表示注入预训练 VLA 策略的动作条件上下文,同时基本保留原动作生成主干。实验显示,CapPro 在未见目标任务组上提升平均性能,源任务性能保持可比。
针对人类视频到机器人策略迁移(H2R)方法因任务套件、场景布局、物体实例与机器人监督量不同而难以横向比较的问题,研究者提出 Real2Sim 基准 H2RBench,基于真实人类视频演示与仿真机器人演示建立标准化协议,覆盖四个交互需求不同的操作任务。论文评估了多种采用不同具身差距弥合策略的代表性 H2R 方法,刻画各方法随人类演示数量增加的性能扩展,发现方法间利用额外人类数据的能力差异显著。仿真性能对真实机器人性能具有预测性,跨方法-任务配置的 Pearson 相关系数 r=0.89、Spearman 相关系数 ρ=0.85、平均最大排名违规 MMRV=0.06。
ForceDelta-VLA 提出一种修正蒸馏框架,利用冻结教师模型的力条件模式与学习到的无力条件模式的成对预测,构建显式的力修正目标,并另设延迟修正目标以补偿参考动作不匹配与参考状态变化。训练采用异步调度回放,执行时使用缓存的任务上下文。所得轻量策略依据近期力历史与机器人状态调整参考动作,在两次参考动作更新之间响应接触变化,无需重新生成完整动作块。在九项单臂与双臂接触密集任务上,平均成功率为82.2%,原始 ForceVLA 基线为54.4%,直接执行第一阶段时序教师模型为70.6%;相比 ForceVLA,完整系统在两个平台上将成功试验的平均峰值接触力降低约26%。
X-WBC 提出跨本体人形机器人全身控制基础框架,将共享的人体运动语义与各本体特定的物理执行分离:以人为中心的命令 token 对齐完整人体运动、机器人参考运动和稀疏 VR 观测,因果 Transformer 从多机器人混合 rollout 中学习可复用的时序结构,轻量级本体特定模块再把共享表示映射到各机器人的本体感知与动作空间。实验覆盖九个仿真本体、外部运动数据和四台真实机器人,结果显示联合训练提升跟踪性能,对齐表示支持跨命令源的一致控制,策略在训练语料之外仍具竞争力。作者据此主张异构人形机器人可作为联合数据源,跨本体联合训练是通向全身控制基础模型的可行路径。
研究对OpenVLA-OFT和pi0.5在分布外LIBERO-90任务上的失败进行标注,将其归为四种模式,仅「执行失准」(到达正确目标但移动距离或力度校准错误)可由一句话纠正覆盖。方法为每任务一句回顾性描述,经LLM解析为动作维度、方向、幅度项与时间窗口,作为短时偏置施加于冻结策略动作。仿真中恢复139个分布内失败中的65个、328个分布外失败中的33个;真实xArm7基座移动后,同物体抓取放置从10/30升至30/30,新物体从2/30升至24/30,两个长时程任务仍为0/30。朴素提示的VLM最多10次尝试均未恢复。
LaWAM 提出以紧凑的潜在视觉子目标替代重建未来视频,将预测动态注入机器人策略。其核心 LaWM 在预训练视觉基础模型的潜在空间中训练潜在动作模型,并复用前向解码器预测未来观测特征。在 LIBERO 上成功率达 98.6%,RoboTwin 上达 91.22%,真实世界操作任务同样取得领先或具竞争力的结果;每次动作块预测耗时 187 毫秒,墙钟延迟较像素空间 WAM 最多降低 24 倍。
WorldArena 2.0 将具身世界模型基准从纯视觉预测扩展到视触觉多模态感知与预测,并把评估范围从策略评估与规划延伸到将世界模型作为交互式强化学习环境用于策略优化。平台维度上,该基准不再局限于仿真器,覆盖多种具身形态的仿真与真实机器人设置,在标准化协议下评估感知质量、交互效用与跨平台性能。代码与演示已发布于 world-arena.ai。
arXiv 2605.13775v2 提出 RoboEvolve 框架,将 VLM 规划器与 VGM 仿真器耦合成协同进化循环,用无标签种子图像自举,通过日间探索(语义控制多粒度奖励)与夜间巩固(挖掘近失失败)双阶段机制训练。实验显示基础规划器提升 30 个绝对点、仿真器成功率平均提升 48%;仅用 500 个无标签种子即超越全监督基线,初始 RL 数据减少 50 倍;并可将冷启动 LingBot-VA 在 LIBERO 上的平均任务成功率从 78.7% 提升至 98.7%。
研究团队提出 SentryVLA,一种面向冻结 VLA 策略的轻量级运行时封装器,无需重新训练或修改底层模型架构。该方法在动作层面用保形分位数回归估计采样动作与专家式行为之间偏差的校准上界,并据此对多个随机候选动作排序以完成动作选择;在执行监测层面,对最终动作预测前提取的上下文化潜在执行状态计算基于马氏距离的异常分数,用于闭环控制中检测异常执行状态。仿真与实体机器人实验显示,该方法改进了动作选择,并能提供有用的运行时异常警告信号。
AffordSim 将开放词汇 3D 可供性预测接入仿真轨迹生成:给定自然语言任务,合成场景、发出可供性查询并定位到物体表面、采样区域条件抓取,再用运动规划筛选可执行轨迹,同时随机化位姿、纹理、光照、噪声与背景以支持 sim-to-real。该基准含 50 个任务、五种机器人本体、500 多个刚性与铰接物体;在可供性关键任务上达到人工接触标注轨迹采集成功率的 93%,困难复合任务为 89%。用其数据训练的 VLA 策略零样本迁移到真实 Franka FR3,平均成功率 24%。

