并非意外：利用人形机器人安全过滤器的不足
arXiv 论文指出，人形机器人安全过滤器的碰撞规避数学保证仅在安全参数配置正确时成立，而参数配置依赖具体任务与环境，缺乏通用确定方法，导致出厂过滤器在特定部署场景下失效。作者提出目标插入攻击，并开发自动化工具 SIREN 为给定任务与环境搜索易受攻击的插入目标；在 SPARK 数据集全部存在漏洞的场景中均识别出攻击，数量为基线方法的三倍，并能在真实人形机器人上生成攻击、使其在执行任务时发生碰撞。
发布于 10-27 10:54来源：arXiv cs.RO
转载 · 官方发布原文：arXiv cs.RO ·《Not an Accident: Exploiting Safety Filter Inadequacy in Humanoid Robots》查看原链
随着人形机器人从研究实验室走向家庭、医院和仓库等以人为中心的环境，在附近人员和物体周围安全运行成为基本要求。 安全过滤器通过提供数学保证——即生成的控制动作不会导致碰撞——被视为应对这一挑战的有前景的技术。 本文表明，这些保证只有在安全参数配置正确时才成立。
然而，正确的参数配置因任务和环境而异，目前不存在能在多样部署中确定这些参数的通用方法。 因此，人形机器人出厂时附带的安全过滤器在特定场景部署后可能失效。 我们表明，攻击者仅通过正常用户交互即可利用这些失效，无需任何额外权限或能力。 为演示这一风险，我们提出目标插入攻击，并开发了自动化工具SIREN，用于为给定任务和环境识别易受攻击的插入目标。
实验结果显示，SIREN在SPARK数据集中所有存在漏洞的场景中均识别出攻击，相比基线方法发现的攻击数量多三倍。 我们还表明，SIREN能够针对真实人形机器人生成攻击，使其在执行任务时发生碰撞。 这些结果表明，当前安全过滤器引入了可被利用的漏洞，可能导致安全违规，揭示出现有安全机制本身可能成为人形机器人的安全风险来源。