跳到主要内容
Evolvant
订阅

机器人行业洞察

行业消息

  1. EgoForesight 提出一种视觉-语言-动作框架,联合利用机器人演示与第一人称视频训练策略,以降低含噪动作标签的影响。方法包含可靠性条件化损坏、可靠性加权回归,以及用指数移动平均教师从干净未来场景变化中蒸馏特权未来表征。在 30,000 小时预训练数据下,其扩展斜率比基线更陡,真实世界开环动作 MSE 降低 20.5%,RoboCasa 少样本成功率提升 8.1 个百分点;后训练后在仿真与真实灵巧操作中均表现较强。

    arXiv cs.RO研究具身智能强化学习大模型

  2. 研究提出导航基础模型 RepresentNav,用三层 transformer(Representation Residuals)对多个视觉基础模型全深度特征做注意力,构建由策略目标驱动的自建表征空间,并在动作前用潜在思维链预测下一时刻场景表征,以 JEPA 架构端到端训练。在 VLNVerse 细粒度任务上成功率达 83.80%,较此前最优高 20.05 个百分点;EVT-Bench 干扰物跟踪单相机达 85.5%(+10.1);相同编码器下自建空间优于拼接输出,想象使碰撞减少四分之一。单个潜在表征可解码未来场景的深度、语义与三维占据,占据无监督仍优于预训练编码器作用于真实未来帧。

    arXiv cs.RO研究具身智能大模型多模态

  3. 南洋理工大学及合作者提出CodeActionBench基准,用于评估具身操作中智能体代码即策略的完整闭环:智能体自主选择观察视角与视觉目标、构建3D估计、生成操作姿态、编写并调试程序,并自行判断任务完成。在双臂仿真配置中,尝试成功率从2.7%到73.3%不等,GPT-6 Astra(Codex CLI)达到73.3%,Claude Opus 5为49.3%(参考测试框架)和45.3%(Claude Code);在七个共享参考测试框架配置中Opus领先,Gemini 3.6 Flash以20.0%紧随。轨迹分析显示视觉定位、3D估计和程序纠正是三个独立瓶颈。基准、代码与项目页面均已开源。

    机器之心 JIQIZHIXIN观点具身智能大模型多模态

  4. 研究提出 P³-WAM 统一世界动作模型,面向第一视角灵巧操作,包含 Perceive(从视频重建关节手部运动与相机轨迹)、Predict(按给定动作生成视觉未来)、Plan(以初始图像、语言指令和可选视觉目标为条件,联合生成动作轨迹与预期视觉后果)三种模式。模型采用混合 Transformer 架构,将结构化三维动作表示接入预训练视频扩散 Transformer,共享基础权重并设模态特定适配与双向视觉-动作注意力,随机化模态可见性使视频与三维动作可作条件或预测目标。实验称统一训练在四项数据集的三维手部重建与动作条件视频预测上优于专用基线,生成的操作视频在指令遵循与动作推进上强于视频生成基线。

    arXiv cs.RO研究具身智能灵巧手大模型

  5. 维也纳工业大学(TU Wien)团队提出零样本框架V2-STRep,将视频生成模型合成的操作视频中的运动转换为可复用机器人技能。该方法用VLM生成结构化任务表示,指定运动阶段、参考对象与约束,目标以点、点法线、轴、平面和6D位姿等最小几何结构描述;VLM给出的2D图像线索经RGB-D观测提升至3D,用于重建任务几何与候选抓取位姿。几何规则负责跨场景运动迁移,任务约束轨迹优化将抓取选择与完整运动规划耦合,并利用剩余旋转自由度适应关节限制。在六个真实操作任务上,执行成功率高于基线,技能可跨场景迁移,并可通过更新部署基础与约束适配新指令而无需重新生成视频。

    arXiv cs.RO研究具身智能运动控制大模型

  6. arXiv 2609.06114v3(替换版)提出DLS方法,将VLA模型适配重新定义为“失败边界学习”,即发现、定位并塑造可恢复偏差与任务失败之间的边界。DLS以少量真实演示加仿真协同训练得到行为先验,通过在线数字孪生推演大规模发现失败边界,并用仿真器特权状态做语义进度定位,给出失败边界被跨越位置的进度感知信号,而非二值标签;这些信号在流动力学中做方向性边界塑造,强化产生成功的去噪方向、抑制产生失败的方向,无需动作似然或辅助评判器。在真实机器人操作任务上,DLS在随机初始状态与未见视觉条件下优于SFT和在线RL基线。

    arXiv cs.RO研究具身智能强化学习大模型

  7. arXiv 2603.25044v3 提出 ThermoAct 框架,在视觉-语言-动作(VLA)模型中引入热成像信息,用于人机协作场景下的机器人任务执行。系统以视觉-语言模型(VLM)作为高层规划器,将复杂自然语言指令分解为更简单的子任务,从而支持高效数据采集与复杂操作推理。与仅依赖视觉数据的方法不同,该框架让机器人感知物体物理属性并主动保障环境安全;真实任务场景实验验证了框架可行性,并显示相较现有纯视觉系统可能提升任务成功率与安全性。项目主页为 youngchae912.github.io/ThermoAct/。

    arXiv cs.RO研究具身智能传感器大模型

  8. 论文提出无需训练的离线指标 S²(感觉运动对齐),衡量模型感知表示与物理运动几何结构的对齐程度,在多个具身模型系列中与下游机器人任务成功率正相关。S² 可在闭环评估前用于模型优先级排序,并能在 VLM 微调为 VLA 之前识别有前景的骨干网络。作者据此将柏拉图表示假说扩展到具身模型,并为 VLA 与世界动作模型中的现象提供表示层面解释。

    arXiv cs.RO研究具身智能大模型多模态

  9. 论文提出 Echo 框架,在单个 VLA 策略内同时学习任务状态信号与动作生成:用停止、失败两个信号作为每个动作块的两个维度,与机器人动作一起去噪,其组合可区分执行中、成功完成与失败。该方法无需帧级进度标注,通过构建成功、失败、恢复三类互补监督轨迹来学习信号;并让状态信号比动作更快去噪,使后续动作去噪以更干净的状态估计为条件。真实世界操作实验显示 Echo 能准确预测任务状态并持续提升策略性能。

    arXiv cs.RO研究具身智能强化学习大模型

  10. 该论文提出在线可精炼语义建图框架,为每个物体点维护置信度分数,利用多视角时序证据在线更新:一致观测强化可靠点,不一致的分割掩码、深度与可见性线索抑制虚假和过时点,并结合物体跟踪与重识别在物体移动后保持实例身份。实验显示建图精度较先前方法在 Replica 上提升 3.46%、在 ScanNet 上提升 2.55%,用于物体导航和具身问答的成功率分别为 82.4% 和 76.7%。

    arXiv cs.RO研究具身智能多模态基准评测

  11. 针对现有 VLA 模型在多视角输入下持续依赖腕部视角、缺乏跨操作阶段动态调整全局-局部视角依赖的问题,作者提出阶段感知多视角路由框架 FocusVLA:从历史动作预测未来交互意图,并据此在动作生成过程中动态路由视角。在 RoboTwin 2.0 上,其平均成功率较最强基线 π0.5 提升 10.10 个百分点;真实世界评估成功率从 71.7% 升至 85.0%,相对 π0.5 提升 13.3%。其意图预测与动态路由模块可在不修改核心架构的前提下集成进现有 VLA 框架。

    arXiv cs.RO研究具身智能大模型多模态

  12. 研究提出多模态进度残差融合(MPRF)因果模型,利用操作指令、电磁跟踪和内窥镜视频预测柔性机器人内窥镜操作者的回退行为。在150个回合的结肠体模数据采集中,MPRF在三个随机种子下取得0.580±0.007 AUPRC,最强减少模态对照组为0.511。完整多模态历史是排序优势的主要来源,残差项相较原始融合仅带来小幅且不确定的增量。

    arXiv cs.RO研究具身智能传感器多模态

  13. TRACE是一个面向地面机器人在非结构化森林环境中自主运行的可通行性感知反应式导航框架。它利用基于正负自然语言提示集的VLM置信度图,通过证据融合生成密集可通行性地图,并按先前已通行路径的迹象对地形排序;随后提取带可通行性标注的点,经百分位分箱与样条或正则化多项式拟合得到路径左右边界,作为软障碍约束纳入NMPC。真实森林环境实验显示,该框架能在杂乱、可变形、视觉模糊地形中平滑导航。

    arXiv cs.RO研究具身智能运动控制大模型

  14. UniFlowWAM将3D场景流作为与视觉、动作并列的第三模态纳入扩散Transformer策略,每个模态设一个专家并通过联合注意力交互,在十目标角色网格下训练,使同一模型可充当策略、前向/逆向动力学及未来视觉特征或3D流预测器。仿真实验中,RoboCasa-GR1成功率由无流基座的52.1%升至56.4%,LIBERO分布内保持98.1%,LIBERO-Plus零样本达87.7%;四个真实双臂操作任务平均成功率87.0%,最强基线为68.5%。

    arXiv cs.RO研究具身智能强化学习大模型

  15. 研究提出EBV-CAN视觉-语言策略,将一张初始全局鸟瞰静态图像与实时内窥镜观测、电机状态结合,通过三个监督式语义查询在缓存图像上定位末端、下一路点和指令目标,再由残差表示预测弯曲与插入指令。配套VLCA数据集包含517次演示、7.5万动作样本、95.8万空间条目和9.3万条剩余路线记录。50个留出回合中末端坐标与路点定位准确率为97.5%和94.8%;1920次物理试验中EBV-CAN成功183/240(76.25%),而离线MAE最低的GRU-BC物理成功率仅1/240。

    arXiv cs.RO研究具身智能大模型多模态

  16. 该论文提出 Co^2Gen 框架,用于在无需人类遥操作的情况下自动生成多机器人协作数据,以训练去中心化 VLA 模型。框架先用去中心化协同规划方法生成以可执行函数形式表示的多机器人协作计划,再用该计划产出协作演示数据,并以去中心化方式微调 VLA 模型。实验显示,用这些数据微调后的 VLA 模型在去中心化协作任务上的表现,与用人类遥操作协作数据微调的模型相当。

    arXiv cs.RO研究具身智能大模型多模态