CondenseVLA：面向高效多帧VLA的可学习历史压缩
CondenseVLA 提出解码器侧可学习历史压缩模块：以可学习查询和多头交叉注意力，将 VLM 骨干缓存的逐帧特征蒸馏为固定数量的槽 token，并用辅助正则化惩罚槽注意力图重叠、使槽嵌入去相关。实验显示 Simpler-WidowX 成功率从 58.7% 升至 69.8%（+11.1 个百分点），LIBERO 达 97.2%，真实世界任务 52.8%，依赖记忆的 RMBench 任务为 21.6%。作者指出有限历史窗口在更难的多观测任务上存在局限，项目页已公开。
发布于 10-22 10:58来源：arXiv cs.RO
转载 · 官方发布原文：arXiv cs.RO ·《CondenseVLA: Learnable History Condensation for Efficient Multi-Frame VLA》查看原链
arXiv:2610.25927v2 公告类型：replace-cross 摘要：机器人操作往往依赖短期线索——例如短暂接触、临时遮挡和中间物体状态——这些线索在单帧中具有歧义，只有通过随时间整合观测才能消解。 然而，仅靠扩大历史窗口来注入历史信息计算代价高昂，且由于大量冗余和与任务无关、不灵活的观测采样，收益往往有限。
我们提出 CondenseVLA，一种多帧 VLA 策略，在解码器侧带有可学习的历史压缩模块，用于在动作解码中利用短期视觉上下文。 给定来自 VLM 骨干网络的一系列缓存逐帧特征，CondenseVLA 使用可学习查询和多头交叉注意力将观测历史蒸馏为一组固定的槽 token。
简单的辅助正则化惩罚槽注意力图之间的重叠，并使槽嵌入去相关，从而鼓励互补注意力并减少槽冗余。 在评估任务中，CondenseVLA 将 Simpler-WidowX 成功率从 58.7% 提升至 69.8%（+11.1 个百分点），在 LIBERO 上达到 97.2%，在真实世界任务上达到 52.8%。
在依赖记忆的 RMBench 任务上达到 21.6% 成功率。 这些结果支持对有限近期视觉证据进行选择性压缩以用于动作解码，同时更难的多观测任务暴露了有限历史窗口的局限。 项目页面：https://github.com/FeiyangHong/CondenseVLA