arXiv 2610.28431v1 提出 TaskWAM,一个闭环、阶段感知的世界-动作模型(WAM)框架,用 Mode Tokens 表征细粒度任务要求、用 State Tokens 跟踪执行进度,形成结构化任务状态以引导生成朝向预期未来,针对长时程操作中相似观测-动作片段导致的“阶段混淆”问题。作者同时提出 StageBench 多阶段操作基准,含参数化阶段变化与自动评估。实验称在仿真与真实任务上减少混淆并与 SOTA 方法性能相当,且可即插即用迁移到单臂、双臂夹爪、灵巧手与人形机器人等异构架构与本体。
机器人行业洞察
今日精选
The robotics journal行业消息
论文提出 GPT-as-Tactile-Policy 方法:将专家演示总结为任务指导与触觉参考,GPT-6-Astra 结合多模态观测与交互历史生成控制指令,并依据接触反馈调整动作。在无需机器人专用预训练和逐任务微调的情况下,该方法在五个 UniVTAC 接触密集型操作任务上平均成功率为 93.8%,与现有最优策略相当,部分任务更高;Insert Hole 任务中触觉反馈将成功率从 31% 提升至 99%。执行分析显示模型能进行接触引导的试探与纠正。
论文提出一个两阶段框架,从多视角视频片段中学习互补的预测表征:预训练阶段用冻结的3D基础模型提供稠密几何特征,将其压缩为预测几何表征并优化以保留场景结构及其时序演化,再对几何过渡施加动作监督,提取强调动作相关过渡的互补运动表征;下游后训练阶段通过几何查询迁移预测几何,运动表征则沿动作生成路径引导中间特征,未来观测仅在训练时作为特权监督、推理时不需要。在LIBERO、LIBERO-Plus、SimplerEnv及真实双臂与单臂任务上,该方法一致提升下游策略,在WidowX评测上绝对提升10.4个百分点,并在多种VLA架构与WAM上验证了迁移效果,代码将发布于GitHub。
研究团队在 RoboColiseum 上对 GPT-6 Astra、GPT-6.1 Sol、Claude Opus 5.5、Gemini 4 Argon 四个模型开展指令跟随、空间推理、通用操作、鲁棒性四赛道对比评测,通过 Agent2Act 控制框架接入共享观测、动作执行与反馈接口。结果显示四模型能力画像一致:指令跟随得分高(三个接近满分)、空间推理强、通用操作得分低于其他三赛道;Astra 在指令跟随与鲁棒性领先,Opus 在空间推理、通用操作与综合表现领先。组件对比表明框架设计影响任务成功率、规划成本与执行时间,案例研究覆盖全身协调、跨形态操作、精细操作、灵巧手操作与真机任务。
研究团队提出 RoboCasa-Shift,一个基于 RoboCasa365 的诊断性鲁棒性基准,采用受控单因素偏移、共享底层设置的干净-扰动配对 rollout 和仿真器阶段感知诊断。在四个长时程家庭操作任务、四种扰动因素与三个校准严重度下评估 GR00T N1.5,共完成 1,040 次正式 rollout。结果显示鲁棒性响应随因素和任务差异显著,严重度提升不总带来单调退化:某相机条件下 80 个配对回合中 8 个结果改变但 ΔSR=0;相机 L2 与高斯模糊 L1 的 ΔSR 同为 0.188,第一阶段失败率却分别为 19.0% 和 36.4%。代码已开源。
EventSync 提出一种事件驱动的分层框架:视觉语言模型依据任务计划与交互历史生成子目标,视觉语言-动作模型执行,轻量级事件监视器结合视觉观测与末端执行器轨迹判定子目标是否完成,仅在获得完成证据后才写入已完成子目标历史并触发后续推理。该方法在 RoboMME 基准上总体成功率为 64.5%,比该基准报告的最佳基线高 20.0 个百分点;并在四个记忆需求不同的真实机器人任务上完成验证。
该研究提出一种多视角潜在动作模型(LAM),用交叉注意力融合同步多相机视角,先解析深度与遮挡,再压缩为潜在动作;潜在动作输入由冻结VLM主干、潜在专家与动作专家经序列流匹配耦合的策略。在严格跨具身设定下,双视角LAM预训练使真值6D动作可解码性较单视角提升17%,而单视角数据扩大两个数量级仍不足以完全恢复平面外运动;下游策略成功率提升+13.5%,单视角LAM为+6.2%。单一跨具身数据即可实现技能迁移,增加第二个视角优于再增加最多四个具身;在硬件上以人类手部演示迁移,850次rollout中成功率较仅动作策略提升+20%。
PLaCA 提出一种世界到动作框架,从当前多模态输入直接预测具有空间结构的 patch 级未来潜在变化,并引入 patch 级变化感知监督与未来到动作接口,将预测变化显式纳入动作生成。在 LIBERO-Long 上成功率达 79.0%,较仅动作基线提升 5.0 个百分点;在 CALVIN 上平均序列长度由 2.784 提升至 3.564。第二阶段训练仅更新 2.95% 的模型参数。
arXiv 论文提出 Tactile-ETA 系统,通过上下文学习把触觉经验注入具身任务智能体,无需任务特定训练或更新模型参数。方法将每段专家演示的机器人运动与相机视图、双侧触觉观测配对,保留运动起止触觉帧并在触觉图像显著变化处补两个相邻时间点。四个仿真操作任务中,在感知与执行接口不变下加入触觉观测使平均成功率从 15.75% 升至 24.00%;真实机器人任务中视觉与触觉对齐的演示将成功率从 0% 提升至 60%。
研究团队发布 JARVIS 基准,用于无语言指令条件下由视觉装配手册引导的机器人自主执行,包含 8,987 个场景、236,679 个 LEGO 装配任务,并从中精选 50 个任务组成 JARVIS-v1 交互式评测套件。评估协议覆盖几何精度、结构关系、构建顺序、部分进展与完成度。配套的 JARVIS-agentic 将机器人原语组合为可执行程序,并利用执行反馈验证与恢复,无需任务特定轨迹或参数更新。在 9 个多模态与推理模型上,面向任务的原语提升了平均装配得分,但性能随装配时程明显下降,执行错误难以纠正;先验任务经验改善初始表现,重复反思收益不稳定。
研究在SHREC真实人机社会交互基准上评估Gemini Robotics-ER,并与已发表的通用VLM基线对比:Robotics-ER在错误/能力检测上优于GPT-4o-mini,但在细粒度社会属性判断上更差;增加一帧视觉输入对一个任务有帮助、对另一个任务有损害。作者指出比较跨越不同模型家族,差异不能单独归因于具身专用化,并提示多机器人系统共享基础模型可能使系统性社会感知错误影响多个协调决策。该工作为初步评估,跨情境与视频分析留待后续。
研究提出“失败归因”问题:判断 VLA 模型中哪些视觉损坏对当前回合的失败风险有贡献、移除后能带来多大收益。方法为因子化风险模型,分别学习场景与损坏表示,通过潜在干预从当前图像和任务指令估计移除收益,无需成对干净图像或额外反事实 rollout。在仿真中对 OpenVLA 和 π0.5、在 Franka 机器人上对 π0.5-DROID 评估,归因误差约为前沿 VLM 的 1/3,并可用于硬件在线失败监测。
研究团队构建统一数据流水线,将机器人操作记录与多来源视觉数据结合,自动标注后转为可验证的定位监督信号,生成约150万样本。基于Qwen3.5-9B微调得到ACE-Brain-0.6,在7个公开定位基准中的4个上超过GPT-6 Astra,总体平均分75.41对73.68。在固定微调设置下,随数据版本扩充覆盖更多定位场景,总体定位性能持续提升。
Hugging Face 发布 TorchTPU,为 PyTorch 增加 TPU 原生后端,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,无需再经 torch_xla 或 Optimum TPU。安装命令为 pip install torch-tpu 并指定 PyTorch CPU 构建索引;Transformers 中传 device_map="tpu" 即可加载模型,Diffusers 中 pipe.to("tpu") 即可推理。TorchTPU 附带为 TPU 调优的 Pallas 内核、分布式训练支持和 torch.compile 集成。
提出统一多模态世界模型 Thinker-WM,用共享 Transformer 联合建模 RGB、深度与机器人动作,支持多种生成与策略推理功能,并在三个具身世界模型榜单排名第一。
研究提出免训练智能体循环,让视觉语言模型用标记工具计数,并按儿童计数发展原则审计其串行视觉推理过程。
论文系统评测 GPT-6 Astra 的闭环机器人操控能力,发现语义推理与物理执行存在明显差距,并提出几何约束新基准 LIBERO-GeoMotion,零样本成功率仅 11.1%。

