FocusVLA:面向视觉-语言-动作模型的未来意图引导动态视角路由
针对现有 VLA 模型在多视角输入下持续依赖腕部视角、缺乏跨操作阶段动态调整全局-局部视角依赖的问题,作者提出阶段感知多视角路由框架 FocusVLA:从历史动作预测未来交互意图,并据此在动作生成过程中动态路由视角。在 RoboTwin 2.0 上,其平均成功率较最强基线 π0.5 提升 10.10 个百分点;真实世界评估成功率从 71.7% 升至 85.0%,相对 π0.5 提升 13.3%。其意图预测与动态路由模块可在不修改核心架构的前提下集成进现有 VLA 框架。
发布于 10-23 23:01来源:arXiv cs.RO
转载 · 官方发布原文:arXiv cs.RO ·《FocusVLA: Future-Intent Guided Dynamic View Routing for Vision-Language-Action Models》查看原链
arXiv:2610.31423v1 公告类型:新论文 摘要:视觉-语言-动作(VLA)模型通过统一视觉感知、语言理解和动作生成,已成为机器人操作的重要范式。 由于可靠的操作需要对物体、末端执行器及其空间关系有充分观察,多视角输入被广泛用于提供互补的空间信息。
然而,我们的实验表明,现有 VLA 模型并未充分利用这种多视角互补性。 策略倾向于持续依赖腕部视角,缺乏在不同操作阶段动态调整全局-局部视角依赖关系的能力,这限制了阶段适应性和鲁棒性。 为解决该问题,我们提出 FocusVLA,一种阶段感知的多视角路由框架。
FocusVLA 从历史动作中预测未来交互意图,并用其引导动作生成过程中的动态视角路由。 通过在不同任务阶段自适应协调全局与局部观察,FocusVLA 提升了多视角利用率。 在 RoboTwin 2.0 上,FocusVLA 相比最强基线 π0.5 将平均成功率提升 10.10 个百分点。
在真实世界评估中,FocusVLA 将成功率从 71.7% 提升至 85.0%,相较 π0.5 取得 13.3% 的提升。 此外,FocusVLA 的意图预测与动态路由模块可集成到现有 VLA 框架中,而无需修改其核心架构。
