arXiv 发布编号 2610.27045v1 的交叉领域专著,试图为物理AI给出统一定义:在现实约束下通过持续反馈感知、建模并作用于物理世界的人工系统,并将其与数字AI、具身AI、信息物理系统、数字孪生区分。专著梳理多模态感知、物理数据与仿真、世界模型、具身基础模型、运动控制、多智能体协同、软硬件协同设计等方法,覆盖机器人、制造、基础设施、科学实验与自主服务应用,重点讨论sim-to-real迁移、可靠性、实时执行、评估、安全与治理,并提出从狭窄自动化走向Physical AGI的研究方向。
机器人行业洞察
今日精选
The robotics journal行业消息
针对在线LiDAR-相机标定中因训练数据外参多样性不足导致的“数据集捷径”问题(网络过拟合固定标称外参、实机泛化差),研究者提出数据生成框架SynCalib:利用带深度真值的全向图像数据集,在严格外参约束下合成多模态标定数据。实验显示合成数据提升了典型学习型标定网络的泛化性与鲁棒性,并在多种相机-LiDAR配置的真实场景中验证了仅用合成数据训练模型的零样本迁移能力。数据生成代码、预训练模型与在线基准数据集将公开。
论文提出P3L(Preference-PCA Pluralistic Learning)框架,通过PCA分解从匿名众包反馈中联合学习轨迹嵌入与偏好方向的共享基,无需标注者身份即可完成多元对齐。测试阶段可快速进行个性化奖励学习与下游策略优化。在多个具身控制任务上,P3L实现可引导的个性化对齐,能泛化到离线数据集之外的分布外新用户,RL与测试性能具竞争力,同时显著降低计算成本并支持可变的适应查询预算。
PhysCanvas 是一个状态一致的视觉-触觉世界模型,将多视角 RGB、触觉图像、标记位移、任务状态与动作统一到同一视觉空间,共享视频 VAE 与预训练生成主干。其一致性感知后训练使用冻结的场景、模态与状态奖励模型进行监督。在四个真实操作任务中,世界模型推演与真实成功率的任务级皮尔逊相关系数均值由 0.602 升至 0.885;在奖励引导世界模型中后训练使 π0.5 真实成功率从 59.1% 的 SFT 基线提升至 70.8%。
该研究提出 AgenticRoboRL 框架,用于跨不同机器人执行框架(harness)对机器人规划器进行后训练,训练方案结合监督微调与多轮强化学习;为适配 VLA 技能调用与生成控制代码等不同执行机制,该框架用与具体 harness 绑定的适配器把规划器交互记录与任务结果关联起来,同时保持执行组件固定。在 LIBERO-PRO 上,9B 参数规划器的成功率从 18.1% 提升至 71.0%(不使用外部记忆),接近 Codex(GPT-5.5)配合外部记忆取得的 72.1%。作者表示将开源该框架与训练后的规划器检查点。
SceneRig 是一个智能体系统,可将单张图像转化为可编辑、可直接用于仿真的三维场景。它结合几何、视觉和物理工具重建三维场景,再由智能体在物理仿真器内执行编辑-验证循环,以实现物理稳定性。在多样化输入下,该系统改进了实例分割、以物体为中心的外观和三维放置,同时保持场景物理稳定;其场景比基线方法更准确地预测真实机器人策略结果,并更可靠地支持回放已记录的操作,而无需轨迹适配。
论文提出 MAPLE(Mondrian-Anchored Prior for Learning-free Indoor Exploration),一种无需训练的室内探索预测方法:将蒙德里安过程改造为在线生成式先验,以当前部分地图中观测到的几何线索为条件,生成多个可能的地图假设,并在每个假设内分别评估可见性以估计前沿增益。在 KTH 平面图及多种传感器范围下的真实 SLAM 环境中,MAPLE 一致优于非预测式探索,并与基于学习的预测方法保持竞争力;其轻量过程式构建可在有限算力下运行。实验还显示,更准确的地图预测不一定带来更好的探索效果,预测的表示与使用方式同样关键。
研究提出REACT框架,从人-人动作捕捉演示中学习可部署的人形-人交互策略,将语义接触结构作为连接演示处理、交互学习与机载控制的关键监督信号。流程包括VLM引导的接触建模与重定向、基于交互感知接触奖励的特权策略学习,再蒸馏为仅用机载自我中心深度传感的策略,并引入生成式伙伴状态建模以应对遮挡。在仿真和Unitree G1真机上测试五种接触丰富交互,语义接触建模改善演示交互保留,生成式建模在五种交互中的四种提升接触召回,真机上仅靠机载传感完成全部五种交互。
SuperMimic 提出用一个可微世界模型摊销人形机器人全身运动跟踪的学习成本,该世界模型由标准刚体仿真器的转移数据拟合,并与跟踪策略在同一循环中联合训练,通过短时想象 rollout 的时间反向传播提供解析梯度。在单块 GPU 上训练 3 小时,其回报超过在 128 块 GPU 上训练 7 天的当前最优基线,GPU 小时数减少超过 1000 倍;在 129,514 个基准运动上失败 25 个,基线失败 179 个。两块 GPU 训练 9.8 小时后实现零失败,策略可迁移到实体 Unitree G1 完成多样高难度动作。
arXiv 2610.28431v1 提出 TaskWAM,一个闭环、阶段感知的世界-动作模型(WAM)框架,用 Mode Tokens 表征细粒度任务要求、用 State Tokens 跟踪执行进度,形成结构化任务状态以引导生成朝向预期未来,针对长时程操作中相似观测-动作片段导致的“阶段混淆”问题。作者同时提出 StageBench 多阶段操作基准,含参数化阶段变化与自动评估。实验称在仿真与真实任务上减少混淆并与 SOTA 方法性能相当,且可即插即用迁移到单臂、双臂夹爪、灵巧手与人形机器人等异构架构与本体。
论文提出 GPT-as-Tactile-Policy 方法:将专家演示总结为任务指导与触觉参考,GPT-6-Astra 结合多模态观测与交互历史生成控制指令,并依据接触反馈调整动作。在无需机器人专用预训练和逐任务微调的情况下,该方法在五个 UniVTAC 接触密集型操作任务上平均成功率为 93.8%,与现有最优策略相当,部分任务更高;Insert Hole 任务中触觉反馈将成功率从 31% 提升至 99%。执行分析显示模型能进行接触引导的试探与纠正。
研究团队提出 FRDV 框架,将人体运动捕捉数据重定向到不同人形机器人:运动学阶段结合自定义序列二次规划求解器、实时迭代与分块并行处理,最高达每秒 9,156 帧,比 GMR 和 ProtoMotions 快约 136 倍,并在优化中加入机器人特定约束以减少地面穿透与自碰撞。对需进一步验证的动作,用接触隐式 iLQR 控制器在完整刚体动力学下检验,识别动力学不可行动作并修正脚部悬空、打滑。团队用多条现有流水线训练运动跟踪强化学习策略,比较跟踪保真度与成功率,并在宇树 G1 人形机器人上完成 sim-to-real 迁移。
该研究提出强化迭代学习控制(RILC),将迭代学习控制与强化学习并发耦合:ILC提供高质量样本,RL作为跨迭代的泛化策略,从而在无需逐轨迹单独学习的情况下实现首次试验即高性能跟踪。论文给出理论证明,表明RL分量保持ILC稳定性,并在特定条件下可渐近降低误差界。实验在欠驱动4自由度串联弹性机器人上,针对不同轨迹与建模失配进行仿真与验证。
该论文提出一种包裹机器人通信链路的算法:当机器人要用入站链路数据更新状态时,算法用 Safe Anytime-Valid Inference 检验各机器人异常检测器输出的信任值流,筛出可安全采纳的可信链路子集,仅要求检测器优于随机猜测。该封装同时给出两项统计保证:以用户选定的高概率在所有时间上均匀排除全部被攻破链路,同时快速学会信任合法链路,且无需对连通结构或被攻破链路数量作限制性假设。作者在 3 台 LoCoBot 上做神经隐式建图、8 台 GoPiGo 上做航向一致性实验,并用硬件采样的信任值仿真验证可扩展至数百台机器人集群。
论文提出一个两阶段框架,从多视角视频片段中学习互补的预测表征:预训练阶段用冻结的3D基础模型提供稠密几何特征,将其压缩为预测几何表征并优化以保留场景结构及其时序演化,再对几何过渡施加动作监督,提取强调动作相关过渡的互补运动表征;下游后训练阶段通过几何查询迁移预测几何,运动表征则沿动作生成路径引导中间特征,未来观测仅在训练时作为特权监督、推理时不需要。在LIBERO、LIBERO-Plus、SimplerEnv及真实双臂与单臂任务上,该方法一致提升下游策略,在WidowX评测上绝对提升10.4个百分点,并在多种VLA架构与WAM上验证了迁移效果,代码将发布于GitHub。
论文提出 DirectWAM,通过动作充分蒸馏把预训练的扩散视频专家与动作专家转为单步预测器,保留显式的未来到动作级联,无需随机采样;训练时从预测未来解码动作并将演示动作误差经专家反向传播,可选加入未来潜在重建损失。在四个 LIBERO 套件上平均成功率 97.1%,RoboTwin 2.0 上 85.4%,相同每流一次评估预算下优于 Flash-WAM,并扩展到三个真实世界任务;相比完整迭代教师模型推理延迟降低 28.0 倍。
PACT-VLA 是一个无需训练的框架,用于解决 VLA 策略异步推理中动作块基于过时观测的问题:它从推理起始观测生成多个候选动作块,并利用提交前观测复用冻结的 VLA 策略进行选择,评分函数 FlowRes 衡量候选隐含流方向与策略预测速度的残差,无需额外验证器。流水线实现使选择不增加控制步延迟。在四步延迟下,Kinetix 上平均成功率比 RTC 高 15.0 个百分点,LIBERO 上比 GR00T N1.7 单候选异步执行高 5.2 个百分点;三个真实机器人任务上,使用同一冻结 π0.5 检查点,平均成功率从朴素异步执行的 60% 提升到 82%。
arXiv 2610.28011v1 提交了一篇研究,考察期望自由能(EFE)能否作为测试时计算控制器,决定在世界模型规划中投入多少计算。作者把目标距离与随机预测间的分歧合成一个 EFE 式目标,分别测试候选评分、停止规则和在线预测器更新。结果显示:当精英成本停滞即停止,在成功率随深度趋于平台的任务上会减少细化,平均成功率接近固定深度参考;较大权重下奖励分歧会降低冻结模型的成功率,惩罚分歧则因任务和权重而异。训练数据缺少到达目标所需区域时,在线更新可恢复部分损失;成本停滞规则在后续优化利用模型错误时会失效,因为任务成功率见顶后预测成本仍下降。
LocoPilot 在12自由度 Unitree Go2 四足机器人上实现单操作员双边遥操作与数据采集,该机器人搭载6自由度 AgileX Piper L 机械臂、RealSense D435 腕部相机与 D405 头部相机;第二台 Piper L 作为主端,配合两个手持控制器同时控制基座、机体姿态、机械臂与夹爪。从端交互力在无专用力/力矩传感器条件下估计,经无源性约束力觉通道反馈给操作员;ROS 2 流水线记录同步多模态观测与遥操作、部署共用的11维动作。作者在多个移动操作任务上评估接口,并在抓取放置示范上微调 MolmoAct2 后部署到实体机器人,无需动作重定向或额外逆运动学。
arXiv 论文 HuTact 提出从大规模人类手-物交互(HOI)数据预训练触觉感知手部表征,预训练阶段不使用真实触觉信号,再将人类手部运动中的交互结构迁移到机器人触觉观测,并可用少量无标注机器人交互数据适配。在抓取预测、滑动检测、物体分类和触觉条件策略学习任务上,HOI 预训练提升了数据效率。抓取预测中,经 HOI 预训练并在无标注机器人自由交互数据上中期训练后,仅用 25% 下游标注数据即达 88.26% Macro-F1,与全量标注从头训练的 88.23% 相当。

