研究提出SERA(自进化机器人智能体):将高层VLM组织为机器人智能体,通过可编辑执行框架维护任务上下文,并用观测与执行反馈更新上下文以指导后续规划;低层控制由固定的VLA执行器承担。自进化环节通过环境推演提出并评估框架修订,选定配置在留出测试前固定。在RoboMME基准上,SERA自主选择配置的总体成功率为51.38%,无自进化时为44.38%。
机器人行业洞察
今日精选
The robotics journal行业消息
研究提出 QSelect 压缩方法,将 AWQ、GPTQ、AutoRound 三类量化检查点按线性模块组合为单一静态低比特模型,并以最终下一词分布打分决定替换。在 DeepSeek-R1-Distill-Qwen-7B、Llama-3.1-8B、Llama-3.2-3B 的 3/4 比特六种设置中,组合模型留出困惑度均低于任一单一家族模型;目标适配模式使两个 Llama 模型 3 比特汇总准确率分别提升 4.3 和 4.5 个百分点。3 比特下未量化嵌入与输出层占打包产物 43-46%,评估仅在地面 GPU 通用基准完成,太空任务与飞行硬件未验证。
研究提出 PAL(Plan first, Act Later)分层记忆框架,用于视觉-语言机器人操作,包含短期视觉缓冲、语义事件记忆和可执行 subtask_list。高层 VLM 将流式视觉观测转为 subtask_list,执行时选取当前相关子任务交给底层 VLA 策略;配套两阶段数据生成,先扩展稀疏更新监督,再用任务落地验证的自标注生成训练数据。在 RoboMME 上成功率达 56.05%,超过最强基线 FrameSamp-Modul 的 44.51%;四项真实操作任务总体成功率 60.83%,高于 MemER 的 45.00% 和 FrameSamp-Modul 的 28.33%。
针对世界动作模型(WAM)的视频与动作目标未显式约束三维几何、而逐点对齐三维基础模型特征又会过度约束紧凑动作特征的问题,论文提出关系几何强制(RGF):从冻结的三维基础模型迁移几何先验,对齐成对特征关系而非逐点特征。RGF 包含帧内、跨视角、动作-时间三个互补关系目标,仅在训练阶段使用,无需显式几何分支或额外推理模块。仿真与真实世界实验显示,在多种操作场景和 WAM 范式下均取得一致增益。
该论文提出DepState-JEPA,一种基于V-JEPA 2.1的双流RGB-深度联合嵌入预测架构,通过共享潜在状态DepState将空间理解与动作条件预测连接。深度既作为互补观测流,也用于将两种模态锚定在度量三维空间中;射线条件读出无需目标深度即可预测局部特征,动作条件转移后同一解码器预测未来RGB与深度特征。机器人状态读出提供递归本体感受输入,物体轨迹监督与校准正向运动学通过运动目标和关节-TCP一致性塑造状态学习。对比显示RGB-D适配后RGB编码器迁移、特征补全、条件视觉预测和操作成功率均有提升,消融实验识别出深度内容、度量坐标、未来状态匹配的贡献及FK正则化的额外控制增益。
论文提出TIDE(Training In DEployment)人在环在线后训练系统,用来源条件监督学习框架从部署期间的人类干预和策略rollout中在线更新策略,不需要学习critic、奖励模型或动作评分器。在四个真实双臂操作任务上,TIDE在里程碑归一化任务进度和全任务完成率上超过热启动策略及匹配的额外离线演示,与固定策略采集基线相当,且部署期间即可提供更新检查点。每个任务的后训练会话从rollout开始到最终检查点可用不到一小时,学习与检查点处理异步进行。
研究提出SimPT仿真框架,将策略推演、纠正数据采集、策略训练与独立评估整合,实现基于干预的VLA后训练自动化。其Agent-Compiled Progress Graph利用仿真器特权状态跟踪任务进度并保留稳定快照,失败后由CuRobo专家从快照尝试恢复,使恢复尝试次数较固定间隔基线减少75.0%,恢复成功率从93.4%升至98.9%。在七个RoboTwin操作任务上比较RECAP、HG-DAgger、DPO+SFT、FlowPRO四种方法;改进版RECAP-CF-LPF在留出仿真试验中把成功率从76.50%提升至79.36%,在真实机器人以太网线插入任务25个场景中从72%提升至96%。
研究比较了不同生成骨干下世界动作模型(WAM)的泛化性能差异,提出以“冗余正交性”量化表征先验:特征在经验分布内流形之外的视觉变化下保持正交的程度。在多种图像与视频骨干上的实验显示,表征先验的正交性越高,WAM训练后对视觉变化的鲁棒性越强,并可在训练前前瞻性预测策略泛化能力。对鲁棒WAM的分析还发现冗余抑制现象,即对视觉变化引起的特征位移的相对抑制与鲁棒动作生成同时出现。
研究提出 SLoSa 神经-符号压缩与微调框架,用经典规划器、教师 LLM 和形式化验证器构建安全感知数据集,再经监督微调与验证奖励机引导的强化学习训练小型机器人任务规划器。在四个 PDDL 领域上,4B-14B 模型成功率提升至 70.5-76.0%;INT4 部署于 Jetson Orin 平均功耗 17.85-26.41 W。家庭仿真环境与桌面机械臂实验验证了适用性。
研究提出Context-Aware Navigation Explanation框架,用大语言模型将感知上下文与规划的未来轨迹结合,生成导盲犬避障与导航动作的自然语言解释,并在Unitree Go2平台上于室内导航场景部署。实验评估不同解释上下文配置对用户信任与解释满意度的影响,结果显示二者呈强正相关,且将障碍物信息与未来轨迹结合的解释效果最佳。
MIT团队提出FLEX(Flexible Feature Editing Pipeline),利用语言模型根据自然语言纠正迭代优化机器人对任务特征的内部表征,包含三个互补操作:添加缺失特征、泛化已有具体特征、屏蔽无关特征。研究在2D导航、7自由度Franka桌面操作任务以及使用自然语言纠正与真机演示的真实世界研究中评估FLEX;与单操作及无脚手架基线对比显示,交互场景中三项操作均属必要,FLEX在保持紧凑可迁移表征的同时取得更高归一化奖励。
研究提出 inr2action 参数空间记忆框架:对每个机器人操作片段的视频拟合神经隐式表示,权重增量即作为该片段的记忆,且增量大小固定,不随片段帧数(一百帧至十万帧)变化。学习得到的投影器把权重增量映射为 token 嵌入,分别条件化语言模型做问答、条件化解码器做关节命令回归,查询时无需检索原始帧。在 RoboMME 上语言模型各题型均超随机水平,解码器平均 R² 为 0.51;将增量替换为匹配噪声后性能下降 11.4 个点,随机初始化权重无法解码。
研究提出 VLA-Rolling 推理框架,在底层 VLA 模型冻结的前提下,通过动作尾部继承、逐动作置信度估计、置信度引导的重新加噪与去噪预算分配三阶段复用被丢弃的动作尾部。在 LIBERO、MetaWorld、LIBERO-Plus、RoboTwin 2.0 四个基准上对 π_{0.5}、SmolVLA、X-VLA、MolmoAct2 测试,16 个模型—基准组合的推理成本全部下降,最高加速 1.48 倍;14 个组合成功率提升,最高提升 15.08 个百分点。
CondenseVLA 提出解码器侧可学习历史压缩模块:以可学习查询和多头交叉注意力,将 VLM 骨干缓存的逐帧特征蒸馏为固定数量的槽 token,并用辅助正则化惩罚槽注意力图重叠、使槽嵌入去相关。实验显示 Simpler-WidowX 成功率从 58.7% 升至 69.8%(+11.1 个百分点),LIBERO 达 97.2%,真实世界任务 52.8%,依赖记忆的 RMBench 任务为 21.6%。作者指出有限历史窗口在更难的多观测任务上存在局限,项目页已公开。
研究提出 TAPDreamer,一种仅用公开编码器构造固定局部对抗补丁、无需查询目标策略即可跨任务与动作架构迁移的攻击方法。闭环评估中,每个基准使用一个冻结补丁、覆盖约 6.5% 输入,使 FastWAM 在 40 个 LIBERO 任务上成功率从 97.7% 降至 0.0%,在 50 个 RoboTwin 任务上从 90.86% 降至 0.0%;匹配随机补丁则分别保持 81.5% 和 79.2%。相同补丁使两种 DreamWAM 配置降至 1.45% 和 1.00%,Motus 降至 10.60%。作者据此认为,世界动作模型的防御需同时保护共享视觉编码器,仅保护下游动作生成不足。
研究提出EMMA框架,结合生成式数据引擎与训练流程增强VLA策略。其DreamTransfer基于扩散Transformer生成多视角一致、几何合理的具身操作视频,支持文本驱动的前景、背景和光照编辑。采用真实与生成数据混合训练,并提出AdaMix根据策略性能自适应加权样本。在零样本视觉设置的真实机器人任务中,相比仅用真实数据训练,性能相对提升超92%,加入AdaMix后额外提升17%。
PhysWord 以原子动作动词作为连续物理动力学表征的共享语义锚点,预测即将发生的原子动作词,并将其上下文隐藏状态与由对应未来观测导出的潜在目标对齐,从而构建时间结构化的 PhysWord 空间(每个动作词含视觉与可选触觉变体)。该模型在视觉-触觉 UniVTAC 上取得 90.3% 成功率,在基于视觉的 LIBERO-Long 上取得 99.6%,均为此前最优;在使用双臂夹爪和灵巧手的真实任务上优于对比方法,并可泛化到未见场景、支持长程操作。
研究团队提出 InteractAgent,一个面向长时程人体-场景交互的智能体式多模态大语言模型系统,用单个 MLLM 同时充当规划器与评估器,以冻结的 MotionLLM 作为执行器,在闭环中完成规划、执行、观察与反思。系统包含在线观察模块,逐步做出继续/重做/重新规划决策,以及记忆增强反思模块,支持多轮计划细化与自适应停止。在 UniHSI 基准上,与免训练基线相比,该方法提升了任务成功率并减少了穿透。代码已在 GitHub 开源。
HexaShell 让基于 VLM 的编程智能体通过一条命令行控制机器人,自身不做决策;执行智能体运行回合,优化智能体在失败后读取完整记录并编写或修复带测试的工具,学习结果以代码形式保留,无需演示或训练。工具仅使用 RGB 图像、相机标定和机械臂状态,通过多视角三角测量定位物体,仿真与硬件输入一致,迁移到不同机械臂只需小幅修改。在 RoboDojo 官方评估中(隐藏种子,42 个任务各 50 回合),成功率为 46.9%、进度分数 53.2,为官方排行榜当前最优;记忆类任务达 81.0%,精度类任务仅 32.0%,瓶颈在接触而非推理。工具已在 GitHub 开源。
研究提出 NestedVLA,可在不访问原始训练数据的情况下整合多个独立微调的 VLA 策略:嵌入 VLA 的超网络为选定任务生成动作专家权重更新,每个任务的压缩视觉-语言模型更新单独存储,两类更新叠加到冻结的基础 VLA 上实例化对应策略。在 MetaWorld、ManiSkill、CALVIN 上用强化学习微调的三个策略上评估,平均成功率 66.7%,比最强模型合并基线高 41.1 个百分点;在 ManiSkill 上与逐任务微调差距在 1 个百分点内,在 CALVIN 上明显缩小差距;三策略设置下总存储为单个完整检查点的 1.5 倍。代码已开源于 GitHub。

