想象未来,内化要旨:通过内化时空想象实现高效 VLA 推理
研究团队提出 IG-VLA 视觉-语言-动作推理框架,其潜在时空推理直接在视觉表征空间想象与任务相关的未来场景演化以指导动作预测,避免像素级视频生成;场景要旨记忆把推理得到的场景-行为关联压缩为场景要旨 token,使推理阶段无需显式未来想象。在 LIBERO、LIBERO-Plus、VLABench 上测试,LIBERO-Plus 语言套件中推理策略与要旨策略成功率均比最强基线高近 6%;要旨策略在单块 NVIDIA A6000 上实现最高 6.38 倍加速,每动作块推理延迟从 1081ms 降至 169.5ms。
发布于 10-27 13:00来源:arXiv cs.RO
转载 · 官方发布原文:arXiv cs.RO ·《Imagine the Future, Internalize the Gist: Efficient VLA Reasoning via Internalized Spatiotemporal Imagination》查看原链
arXiv:2610.02626v4 公告类型:replace-cross 摘要:视觉-语言-动作(VLA)模型越来越多地引入中间推理来改进机器人操作,但现有方法主要对已观测状态进行推理,没有显式预测未来场景的演化。 然而,若在每次推理步骤中都将这种推理扩展为显式的未来推演,会带来大量计算开销。
我们提出 IG-VLA,一个让模型想象未来并内化要旨的 VLA 推理框架。 我们的潜在时空推理直接在视觉表征空间中学习想象与任务相关的未来场景演化,从而指导动作预测,无需昂贵的像素级视频生成。 为进一步降低推理开销,我们引入场景要旨记忆,将推理得到的场景-行为关联内化为紧凑的场景要旨 token,在保留未来推理收益的同时,在推理时绕过显式的未来想象。
在 LIBERO、LIBERO-Plus 和 VLABench 上的大量实验证明了 IG-VLA 的有效性与高效性。 在 LIBERO-Plus 语言套件上,推理策略和要旨策略的成功率均比最强基线高出近 6%。 要旨策略相比基线最高实现 6.38 倍加速,在单块 NVIDIA A6000 GPU 上把每个动作块的推理延迟从 1081ms 降至 169.5ms。
这些结果表明,未来时空推理可以被有效内化,从而实现高效的 VLA 部署。
