维也纳工业大学(TU Wien)团队提出零样本框架V2-STRep,将视频生成模型合成的操作视频中的运动转换为可复用机器人技能。该方法用VLM生成结构化任务表示,指定运动阶段、参考对象与约束,目标以点、点法线、轴、平面和6D位姿等最小几何结构描述;VLM给出的2D图像线索经RGB-D观测提升至3D,用于重建任务几何与候选抓取位姿。几何规则负责跨场景运动迁移,任务约束轨迹优化将抓取选择与完整运动规划耦合,并利用剩余旋转自由度适应关节限制。在六个真实操作任务上,执行成功率高于基线,技能可跨场景迁移,并可通过更新部署基础与约束适配新指令而无需重新生成视频。
机器人行业洞察
今日精选
The robotics journal行业消息
arXiv 2609.06114v3(替换版)提出DLS方法,将VLA模型适配重新定义为“失败边界学习”,即发现、定位并塑造可恢复偏差与任务失败之间的边界。DLS以少量真实演示加仿真协同训练得到行为先验,通过在线数字孪生推演大规模发现失败边界,并用仿真器特权状态做语义进度定位,给出失败边界被跨越位置的进度感知信号,而非二值标签;这些信号在流动力学中做方向性边界塑造,强化产生成功的去噪方向、抑制产生失败的方向,无需动作似然或辅助评判器。在真实机器人操作任务上,DLS在随机初始状态与未见视觉条件下优于SFT和在线RL基线。
arXiv 2603.25044v3 提出 ThermoAct 框架,在视觉-语言-动作(VLA)模型中引入热成像信息,用于人机协作场景下的机器人任务执行。系统以视觉-语言模型(VLM)作为高层规划器,将复杂自然语言指令分解为更简单的子任务,从而支持高效数据采集与复杂操作推理。与仅依赖视觉数据的方法不同,该框架让机器人感知物体物理属性并主动保障环境安全;真实任务场景实验验证了框架可行性,并显示相较现有纯视觉系统可能提升任务成功率与安全性。项目主页为 youngchae912.github.io/ThermoAct/。
论文提出无需训练的离线指标 S²(感觉运动对齐),衡量模型感知表示与物理运动几何结构的对齐程度,在多个具身模型系列中与下游机器人任务成功率正相关。S² 可在闭环评估前用于模型优先级排序,并能在 VLM 微调为 VLA 之前识别有前景的骨干网络。作者据此将柏拉图表示假说扩展到具身模型,并为 VLA 与世界动作模型中的现象提供表示层面解释。
论文提出 Echo 框架,在单个 VLA 策略内同时学习任务状态信号与动作生成:用停止、失败两个信号作为每个动作块的两个维度,与机器人动作一起去噪,其组合可区分执行中、成功完成与失败。该方法无需帧级进度标注,通过构建成功、失败、恢复三类互补监督轨迹来学习信号;并让状态信号比动作更快去噪,使后续动作去噪以更干净的状态估计为条件。真实世界操作实验显示 Echo 能准确预测任务状态并持续提升策略性能。
该论文提出在线可精炼语义建图框架,为每个物体点维护置信度分数,利用多视角时序证据在线更新:一致观测强化可靠点,不一致的分割掩码、深度与可见性线索抑制虚假和过时点,并结合物体跟踪与重识别在物体移动后保持实例身份。实验显示建图精度较先前方法在 Replica 上提升 3.46%、在 ScanNet 上提升 2.55%,用于物体导航和具身问答的成功率分别为 82.4% 和 76.7%。
针对现有 VLA 模型在多视角输入下持续依赖腕部视角、缺乏跨操作阶段动态调整全局-局部视角依赖的问题,作者提出阶段感知多视角路由框架 FocusVLA:从历史动作预测未来交互意图,并据此在动作生成过程中动态路由视角。在 RoboTwin 2.0 上,其平均成功率较最强基线 π0.5 提升 10.10 个百分点;真实世界评估成功率从 71.7% 升至 85.0%,相对 π0.5 提升 13.3%。其意图预测与动态路由模块可在不修改核心架构的前提下集成进现有 VLA 框架。
研究提出多模态进度残差融合(MPRF)因果模型,利用操作指令、电磁跟踪和内窥镜视频预测柔性机器人内窥镜操作者的回退行为。在150个回合的结肠体模数据采集中,MPRF在三个随机种子下取得0.580±0.007 AUPRC,最强减少模态对照组为0.511。完整多模态历史是排序优势的主要来源,残差项相较原始融合仅带来小幅且不确定的增量。
TRACE是一个面向地面机器人在非结构化森林环境中自主运行的可通行性感知反应式导航框架。它利用基于正负自然语言提示集的VLM置信度图,通过证据融合生成密集可通行性地图,并按先前已通行路径的迹象对地形排序;随后提取带可通行性标注的点,经百分位分箱与样条或正则化多项式拟合得到路径左右边界,作为软障碍约束纳入NMPC。真实森林环境实验显示,该框架能在杂乱、可变形、视觉模糊地形中平滑导航。
UniFlowWAM将3D场景流作为与视觉、动作并列的第三模态纳入扩散Transformer策略,每个模态设一个专家并通过联合注意力交互,在十目标角色网格下训练,使同一模型可充当策略、前向/逆向动力学及未来视觉特征或3D流预测器。仿真实验中,RoboCasa-GR1成功率由无流基座的52.1%升至56.4%,LIBERO分布内保持98.1%,LIBERO-Plus零样本达87.7%;四个真实双臂操作任务平均成功率87.0%,最强基线为68.5%。
研究提出EBV-CAN视觉-语言策略,将一张初始全局鸟瞰静态图像与实时内窥镜观测、电机状态结合,通过三个监督式语义查询在缓存图像上定位末端、下一路点和指令目标,再由残差表示预测弯曲与插入指令。配套VLCA数据集包含517次演示、7.5万动作样本、95.8万空间条目和9.3万条剩余路线记录。50个留出回合中末端坐标与路点定位准确率为97.5%和94.8%;1920次物理试验中EBV-CAN成功183/240(76.25%),而离线MAE最低的GRU-BC物理成功率仅1/240。
该论文提出 Co^2Gen 框架,用于在无需人类遥操作的情况下自动生成多机器人协作数据,以训练去中心化 VLA 模型。框架先用去中心化协同规划方法生成以可执行函数形式表示的多机器人协作计划,再用该计划产出协作演示数据,并以去中心化方式微调 VLA 模型。实验显示,用这些数据微调后的 VLA 模型在去中心化协作任务上的表现,与用人类遥操作协作数据微调的模型相当。
论文提出 OASIS(在线锚点中心场景推理系统),用稀疏锚点节点表示室内环境,每个节点融合语义描述、视觉特征与几何状态,支持在线建图、开放词汇检索与导航。系统复用导航中采集的瞬时观测,在场景变化后重新定位被移动的物体,并以紧凑记忆支持按需证据提取与分层检索。在仿真与真实环境的标准检索基准及静态、动态导航任务中完成验证。
论文提出 FRED 框架,通过自蒸馏让世界动作模型(WAM)在单步去噪中从噪声预测未来视频表征,并以真实未来观测提取的表征为目标,同时以历史观测作为时间上下文条件。在多种真实世界操作场景中,FRED 持续优于同类 WAM,在零样本环境泛化的长时程与域外任务上提升明显;在仅有人类视频演示、无机器人训练数据的任务上成功率达 50.0%,最佳对比方法为 19.4%。
论文发现VLA动作生成与图像/视频生成差异显著:仅将训练时间步分布偏向噪声端点,即可在LIBERO、LIBERO-Plus、LIBERO-Pro及真实机器人任务上获得强单步策略;对多种架构的开源VLA模型,用单次前向替代迭代解码,在LIBERO、CALVIN、SimplerEnv等基准上常与原多步解码相当。作者用标准Flow Matching的不可约速度损失R_v(t,c)解释:VLA在噪声端点处该损失更小,而图像生成模型多呈U形;学习到的生成映射对初始噪声的雅可比最大奇异值在动作生成中明显更小。作者认为VLA的条件-目标结构更接近图像到文本,使单步生成更易实现,代码与训练配置已开源。
研究提出 Cartender 方法,从真实驾驶记录中构建反事实分支:由视觉语言模型提出替代未来及对应选择指令,不受支持的指令作为负标签,无需模拟器。方法学习场景-语言兼容性分数调节轨迹生成,并用奖励训练的语言残差对候选重排序。在 WOD-E2E 上,3,603 个可行指令条件下最佳提案 RFS 为 8.642;8,974 个被接受提案平均 RFS 8.203,高于匹配记录轨迹的 7.906,67% 提案得分超过记录对应项。同场景配对指令成功率从 23.67% 升至 57.00%,RFS 从 6.32 升至 7.10,不可行指令执行率从 53.36% 降至 14.18%。
论文提出 PaceVLA 框架,用于解决 VLA 模型因从遥操作演示学习细粒度时间模式、需大量底层动作步而导致的执行时间效率低问题。该框架包含两个耦合组件:基于共享动作专家的模式特定动作解码器,支持多种时间粒度与预测时域;以及可量化性引导的模式选择方案和上下文条件路由器,在每个推理步判断粗粒度执行是否合适并选择执行模式。在三个多任务仿真基准和六个真实世界任务上,PaceVLA 在多种具身形态(含长时程与灵巧操作)中提升执行效率并保持任务成功率。
研究提出FoveaVLA,用学习到的注视动作替代VLA中的腕部相机:策略在每个动作块之外预测下一次查询需观察的交互区域,并从原始分辨率图像中裁剪该区域,与完整视图一并输入。模型基于π0.5构建Single与Dual两种配置(分别使用一个或两个外部立体相机,输入完整与注视区域的RGB-D),在DROID数据集结合RoboInter交互标注上后训练。四个真实任务套件中,FoveaVLA-Single单外部RGB-D视图成功率70.8%,Dual为77.1%,配备腕部相机的π0.5为52.1%;在普通抓取放置任务上与基线持平,在存在干扰物、布料操作和远距离物体任务上成功率提升。
研究团队发布开源平台 PolyUMI,其轻量无线手持夹爪可同步采集腕部相机、光学触觉、接触音频与本体感觉数据,无需外接工作站;同一传感手指可转移至机器人末端执行器,保持演示采集与策略执行间的传感几何一致。配套提出 token 级多模态策略 VisTA,跨传感器与时间整合信息以预测接触感知动作。在物体推理、滑动控制与接触丰富操作实验中,触觉与音频提供了视觉之外的任务相关信息,VisTA 与现有多模态策略相比具有竞争力或更优。
研究提出BAS-VLA任务语义动作校准框架,构建于冻结的基础VLA模型之上,默认采用以语义破坏为中心的校准核心,并辅以选择性证据门控的保持辅助模块,用于纠正外观变化引起的动作漂移。在四个目标物体替换任务上,变化任务成功率从2.3%提升至68.5%;在经验证的外观保持变化上,成功率从42%提升至70%,且干净性能未下降。

