跳到主要内容
Evolvant
订阅

JevVLA:受 Jev 启发的视觉-语言-动作策略能量式适配方法

浙江大学具身智能团队提出 JevVLA,一种面向视觉-语言-动作(VLA)策略的轻量级能量式适配框架:基础策略冻结,仅学习一个以观测、任务上下文和动作为条件的可微标量能量函数,可训练参数约 8 万个。该函数同时用于离散候选比较与连续动作梯度纠正或生成,训练信号来自执行反馈、专家纠正或示范偏好。在留出测试集上,MetaWorld MT50、VIMA、LanguageTable、LIBERO Plus、CLIPort 的任务成功率分别比匹配的基础策略对照组提升 1.28、2.31、1.60、1.52、1.28 个百分点。实现将在 GitHub 开源。

发布于 10-27 12:57来源:arXiv cs.RO

转载 · 官方发布原文:arXiv cs.RO ·《JevVLA: Jev-Inspired Energy-Based Adaptation for Vision-Language-Action Policies》查看原链

arXiv:2610.35010v1 公告类型:新论文 摘要:视觉-语言-动作(VLA)策略既可以在离散候选中进行选择以完成抓取放置操作,也可以生成连续动作块用于运动控制。 通过一种共同机制同时改进这两类决策,同时保留预训练策略的能力,是一个重要的适配问题。

受 Jev 结构化概率决策接口的启发,我们提出 JevVLA,一种面向 VLA 策略的轻量级能量式适配框架。 JevVLA 通过建模动作提案的相对质量来体现这一思路:在基础策略冻结的情况下,它利用执行反馈、专家纠正或由示范数据导出的偏好,学习一个以观测、任务上下文和动作为条件的可微标量能量函数。

JevVLA 将这一单一学习到的动作偏好函数用于两种用途:其数值用于比较离散候选,其动作梯度用于纠正连续动作或引导其生成。 因此,候选选择与连续控制共享同一个可训练的决策核心。 每个基准测试使用独立训练的权重和固定的输入/输出编码,同时保留相同的核心网络,可训练参数约 80,000 个。

在留出测试集上,JevVLA 在 MetaWorld MT50、VIMA、LanguageTable、LIBERO Plus 和 CLIPort 上,相比各自匹配的基础策略对照组,任务成功率分别提升 1.28、2.31、1.60、1.52 和 1.28 个百分点。

这些结果支持了一种轻量级、受 Jev 启发的能量模型用于适配离散动作选择与连续动作引导的可行性。 JevVLA 的实现将在 https://github.com/ZJU4EmbodiedAI/JevVLA 开源。

来源arXiv cs.ROen原文发布 10-27访问原文