跳到主要内容
Evolvant
订阅

面向视觉-语言-动作策略的事后认知不确定性估计

研究提出事后核方差头(post-hoc kernel-variance heads),从单个 VLA 策略的嵌入估计认知不确定性,每个头计算以训练演示嵌入为条件的高斯过程条件方差,拟合无需回归目标或梯度更新且不改变策略。在 LIBERO-10 上用 SmolVLA 测试,其与双策略集成分数在任务级相关性、主动学习演示获取和转介监督策略上表现相当;视觉-语言骨干上的头将不确定性评分时间最多减少约 50 倍。研究还指出 LIBERO-10 既有评估协议主要奖励任务间覆盖差异识别,执行变异性削弱任务内排名评估,受控扰动可作为补充评估。

发布于 10-22 13:00来源:arXiv cs.RO

转载 · 官方发布原文:arXiv cs.RO ·《Post-hoc Epistemic Uncertainty for Vision-Language-Action Policies》查看原链

视觉-语言-动作(VLA)策略需要识别其训练知识中的空白,以便在新情境下请求有用的演示或协助,尤其是在失败代价高昂时。 独立训练的策略集成内部的分歧可以指导这些决策,但需要训练和运行多个策略。 我们提出事后核方差头(post-hoc kernel-variance heads),从单个策略的嵌入中估计认知不确定性。

每个头计算以训练演示嵌入为条件的高斯过程的条件方差。 拟合不需要回归目标或梯度更新,且不改变策略本身。 在 LIBERO-10 上使用 SmolVLA 的实验中,核方差头在与任务成功的任务级相关性、主动学习中的演示获取,以及作为人类协助代理转介给更强监督策略方面,与双策略集成分数表现相当。

对于 SmolVLA,视觉-语言骨干上的头相比集成分数将不确定性评分时间最多减少约 50 倍,同时大幅降低设置成本。 我们还表明,LIBERO-10 上既有的评估协议主要奖励对任务间覆盖差异的识别,而执行变异性削弱了对任务内排名的评估。 因此,受控扰动提供了补充评估:模态特定的头识别不熟悉的相机、指令或状态输入,而融合头可以检测单独熟悉输入的陌生组合。

在针对所评估扰动族训练的监督代理下,解码器头在任务内转介方面优于集成分歧。 这些发现表明,可以从单个策略获得用于自适应机器人学习的有用不确定性估计。

来源arXiv cs.ROen原文发布 10-22访问原文