跳到主要内容
Evolvant
订阅

机器人行业洞察

行业消息

  1. ZeroDex提出零样本长程灵巧操作框架,将语言指令从标定多视角RGB图像接地为可执行3D任务规划,输出接触点、放置目标和工具运动锚点等度量3D量。系统由VLM把复杂指令分解为原子任务,通过可复用原语库执行抓取放置与工具使用;工具使用检索物体中心原子动作并对齐6D工具轨迹,灵巧执行则将抓取关键点扩展为任务条件化抓取可供性区域并生成抓取-运动对。真实实验显示其3D接地精度与任务成功率高于单视角RGB-D的零样本视觉提示和约束基线,且无演示系统优于在100个任务演示上微调的VLA策略,并支持执行验证与重规划恢复中间失败。

    arXiv cs.RO研究具身智能灵巧手大模型

  2. arXiv:2606.10180v2 提出对视觉-语言-动作(VLA)模型的“流控制”方法:将键盘等通用用户输入写入VLA流匹配动作专家的初始条件,利用流的确定性在积分过程中保留用户输入信息,无需重新训练或微调即可实时引导动作。作者报告该方法能准确响应地引导机器人动作、对次优输入鲁棒、帮助用户显著提高成功率并加快任务完成,且在流控制轨迹上微调可改进自主策略。

    arXiv cs.RO研究具身智能运动控制大模型

  3. 该论文提出DEFLECT离线后训练框架,利用录制轨迹中执行时刻观测与预测时刻观测的时序对比构建偏好监督,解决异步VLA推理中动作块与执行时刻状态错配的问题。在Kinetix、LIBERO及三个真实机器人任务上测试,最长支持延迟下Kinetix成功率较VLASH提升4.2个百分点,LIBERO上较使用GR00T N1.7的朴素异步执行提升22.7个百分点。

    arXiv cs.RO研究具身智能强化学习大模型

  4. 英伟达PAR实验室提出JCA模型,为任意骨架同时生成视频与可回放的3D运动,并生成将运动配准到场景的相机。方法上把3D运动放在支持任意骨架的独立模型中,通过少量交叉注意力层连接预训练视频模型,使运动模型可先用纯运动数据学习;模型还学习在视频帧中定位关节以恢复相机。训练数据由生成式视频编辑器把动画3D资产放入匹配场景构建,结合人类与机器人视频共近20万训练对。评估称其从文本驱动多样骨架的保真度优于视频优先流水线,并支持视频与骨架运动互转及关键帧控制。

    arXiv cs.RO研究仿真与数字孪生大模型多模态

  5. 论文提出 CoGaussian,一个基于开放词汇高斯表示的协同语义占据预测框架,将场景表示为一组与基础模型对齐的稀疏三维高斯,作为多智能体之间通信与融合几何、语义信息的紧凑表示。该方法针对现有协同语义占据方法依赖稠密三维体素标注、且只能识别预定义语义类别的问题。在 Semantic-OPV2V 基准上,CoGaussian 优于现有的开放词汇单智能体方法。

    arXiv cs.RO研究大模型多模态自动驾驶

  6. 论文提出 CLOSER 框架,将目标物体导航中的停止决策建模为闭环证据获取:微调开源视觉语言模型,对跨帧跟踪候选的每个视角标注为目标、非目标或不确定,用基于嵌入的多样性门选择互补视角,再由轻量网络融合各视角概率;若融合后仍不确定,则用扩散策略仅依据跟踪掩码和深度驱动智能体靠近候选,直至判断明确。该框架本地运行,可直接接入现有 ObjectNav 系统而无需重新训练。在 Gibson 和 Habitat-Matterport 3D 上,平均成功率提升 3.6 个百分点,路径长度加权成功率提升 2.0 个百分点。

    arXiv cs.RO研究具身智能大模型多模态

  7. 该研究提出PanoGraphGS框架,在共享高斯几何上联合学习语义与实例特征,通过基于原型的语义学习和基于关联的实例学习实现跨视角一致的全景预测,并支持新视角全景分割与高斯级全景解码;语义感知场景图模块可恢复楼层-房间-背景物-物体的层级及包含与空间关系。团队同时发布真实世界全景场景理解数据集NaviGS,含3DGS、网格、RGB、语义与深度数据。在Replica和NaviGS上,其物体节点准确率平均超过最强基线50个百分点以上,2D全景分割亦为所评估方法中最优。

    arXiv cs.RO研究具身智能多模态数据集

  8. PhysCanvas 是一个状态一致的视觉-触觉世界模型,将多视角 RGB、触觉图像、标记位移、任务状态与动作统一到同一视觉空间,共享视频 VAE 与预训练生成主干。其一致性感知后训练使用冻结的场景、模态与状态奖励模型进行监督。在四个真实操作任务中,世界模型推演与真实成功率的任务级皮尔逊相关系数均值由 0.602 升至 0.885;在奖励引导世界模型中后训练使 π0.5 真实成功率从 59.1% 的 SFT 基线提升至 70.8%。

    arXiv cs.RO研究具身智能强化学习仿真与数字孪生

  9. 研究提出REACT框架,从人-人动作捕捉演示中学习可部署的人形-人交互策略,将语义接触结构作为连接演示处理、交互学习与机载控制的关键监督信号。流程包括VLM引导的接触建模与重定向、基于交互感知接触奖励的特权策略学习,再蒸馏为仅用机载自我中心深度传感的策略,并引入生成式伙伴状态建模以应对遮挡。在仿真和Unitree G1真机上测试五种接触丰富交互,语义接触建模改善演示交互保留,生成式建模在五种交互中的四种提升接触召回,真机上仅靠机载传感完成全部五种交互。

    arXiv cs.RO研究人形机器人具身智能运动控制

  10. arXiv 2610.28431v1 提出 TaskWAM,一个闭环、阶段感知的世界-动作模型(WAM)框架,用 Mode Tokens 表征细粒度任务要求、用 State Tokens 跟踪执行进度,形成结构化任务状态以引导生成朝向预期未来,针对长时程操作中相似观测-动作片段导致的“阶段混淆”问题。作者同时提出 StageBench 多阶段操作基准,含参数化阶段变化与自动评估。实验称在仿真与真实任务上减少混淆并与 SOTA 方法性能相当,且可即插即用迁移到单臂、双臂夹爪、灵巧手与人形机器人等异构架构与本体。

    arXiv cs.RO研究具身智能大模型多模态

  11. 论文提出 GPT-as-Tactile-Policy 方法:将专家演示总结为任务指导与触觉参考,GPT-6-Astra 结合多模态观测与交互历史生成控制指令,并依据接触反馈调整动作。在无需机器人专用预训练和逐任务微调的情况下,该方法在五个 UniVTAC 接触密集型操作任务上平均成功率为 93.8%,与现有最优策略相当,部分任务更高;Insert Hole 任务中触觉反馈将成功率从 31% 提升至 99%。执行分析显示模型能进行接触引导的试探与纠正。

    arXiv cs.RO研究具身智能传感器大模型

  12. 论文提出一个两阶段框架,从多视角视频片段中学习互补的预测表征:预训练阶段用冻结的3D基础模型提供稠密几何特征,将其压缩为预测几何表征并优化以保留场景结构及其时序演化,再对几何过渡施加动作监督,提取强调动作相关过渡的互补运动表征;下游后训练阶段通过几何查询迁移预测几何,运动表征则沿动作生成路径引导中间特征,未来观测仅在训练时作为特权监督、推理时不需要。在LIBERO、LIBERO-Plus、SimplerEnv及真实双臂与单臂任务上,该方法一致提升下游策略,在WidowX评测上绝对提升10.4个百分点,并在多种VLA架构与WAM上验证了迁移效果,代码将发布于GitHub。

    arXiv cs.RO研究具身智能强化学习大模型

  13. 研究团队在 RoboColiseum 上对 GPT-6 Astra、GPT-6.1 Sol、Claude Opus 5.5、Gemini 4 Argon 四个模型开展指令跟随、空间推理、通用操作、鲁棒性四赛道对比评测,通过 Agent2Act 控制框架接入共享观测、动作执行与反馈接口。结果显示四模型能力画像一致:指令跟随得分高(三个接近满分)、空间推理强、通用操作得分低于其他三赛道;Astra 在指令跟随与鲁棒性领先,Opus 在空间推理、通用操作与综合表现领先。组件对比表明框架设计影响任务成功率、规划成本与执行时间,案例研究覆盖全身协调、跨形态操作、精细操作、灵巧手操作与真机任务。

    arXiv cs.RO研究具身智能灵巧手大模型

  14. 研究团队提出 RoboCasa-Shift,一个基于 RoboCasa365 的诊断性鲁棒性基准,采用受控单因素偏移、共享底层设置的干净-扰动配对 rollout 和仿真器阶段感知诊断。在四个长时程家庭操作任务、四种扰动因素与三个校准严重度下评估 GR00T N1.5,共完成 1,040 次正式 rollout。结果显示鲁棒性响应随因素和任务差异显著,严重度提升不总带来单调退化:某相机条件下 80 个配对回合中 8 个结果改变但 ΔSR=0;相机 L2 与高斯模糊 L1 的 ΔSR 同为 0.188,第一阶段失败率却分别为 19.0% 和 36.4%。代码已开源。

    arXiv cs.RO研究具身智能仿真与数字孪生大模型

  15. EventSync 提出一种事件驱动的分层框架:视觉语言模型依据任务计划与交互历史生成子目标,视觉语言-动作模型执行,轻量级事件监视器结合视觉观测与末端执行器轨迹判定子目标是否完成,仅在获得完成证据后才写入已完成子目标历史并触发后续推理。该方法在 RoboMME 基准上总体成功率为 64.5%,比该基准报告的最佳基线高 20.0 个百分点;并在四个记忆需求不同的真实机器人任务上完成验证。

    arXiv cs.RO研究具身智能大模型多模态

  16. 该研究提出一种多视角潜在动作模型(LAM),用交叉注意力融合同步多相机视角,先解析深度与遮挡,再压缩为潜在动作;潜在动作输入由冻结VLM主干、潜在专家与动作专家经序列流匹配耦合的策略。在严格跨具身设定下,双视角LAM预训练使真值6D动作可解码性较单视角提升17%,而单视角数据扩大两个数量级仍不足以完全恢复平面外运动;下游策略成功率提升+13.5%,单视角LAM为+6.2%。单一跨具身数据即可实现技能迁移,增加第二个视角优于再增加最多四个具身;在硬件上以人类手部演示迁移,850次rollout中成功率较仅动作策略提升+20%。

    arXiv cs.RO研究具身智能强化学习大模型

  17. PLaCA 提出一种世界到动作框架,从当前多模态输入直接预测具有空间结构的 patch 级未来潜在变化,并引入 patch 级变化感知监督与未来到动作接口,将预测变化显式纳入动作生成。在 LIBERO-Long 上成功率达 79.0%,较仅动作基线提升 5.0 个百分点;在 CALVIN 上平均序列长度由 2.784 提升至 3.564。第二阶段训练仅更新 2.95% 的模型参数。

    arXiv cs.RO研究具身智能强化学习大模型

  18. arXiv 论文提出 Tactile-ETA 系统,通过上下文学习把触觉经验注入具身任务智能体,无需任务特定训练或更新模型参数。方法将每段专家演示的机器人运动与相机视图、双侧触觉观测配对,保留运动起止触觉帧并在触觉图像显著变化处补两个相邻时间点。四个仿真操作任务中,在感知与执行接口不变下加入触觉观测使平均成功率从 15.75% 升至 24.00%;真实机器人任务中视觉与触觉对齐的演示将成功率从 0% 提升至 60%。

    arXiv cs.RO研究具身智能灵巧手传感器

  19. 研究团队发布 JARVIS 基准,用于无语言指令条件下由视觉装配手册引导的机器人自主执行,包含 8,987 个场景、236,679 个 LEGO 装配任务,并从中精选 50 个任务组成 JARVIS-v1 交互式评测套件。评估协议覆盖几何精度、结构关系、构建顺序、部分进展与完成度。配套的 JARVIS-agentic 将机器人原语组合为可执行程序,并利用执行反馈验证与恢复,无需任务特定轨迹或参数更新。在 9 个多模态与推理模型上,面向任务的原语提升了平均装配得分,但性能随装配时程明显下降,执行错误难以纠正;先验任务经验改善初始表现,重复反思收益不稳定。

    arXiv cs.RO研究具身智能多模态智能体

  20. 研究在SHREC真实人机社会交互基准上评估Gemini Robotics-ER,并与已发表的通用VLM基线对比:Robotics-ER在错误/能力检测上优于GPT-4o-mini,但在细粒度社会属性判断上更差;增加一帧视觉输入对一个任务有帮助、对另一个任务有损害。作者指出比较跨越不同模型家族,差异不能单独归因于具身专用化,并提示多机器人系统共享基础模型可能使系统性社会感知错误影响多个协调决策。该工作为初步评估,跨情境与视频分析留待后续。

    arXiv cs.RO研究具身智能大模型多模态