面向自主系统分析的充分与必要因果解释
发布于 10-22 13:00来源：arXiv cs.RO
转载 · 官方发布原文：arXiv cs.RO ·《Sufficient and Necessary Causal Explanations for the Analysis of Autonomous Systems》查看原链
arXiv:2610.29724v1 公告类型：新论文 摘要：理解自主系统的失效具有挑战性，尤其当其行为依赖神经网络等黑箱组件时。 本文区分失效分析的两个目标：复现，即寻找足以复现已观测失效的条件；避免，即寻找防止失效所需的改变。 以往关于系统失效因果解释的工作基于充分解释概念，天然支持复现，但未解决失效避免问题。
本文提出并形式化必要解释概念，作为失效避免的正确形式化工具；将必要解释置于实际因果框架中，证明其与充分解释共同构成统一因果框架，可同时处理失效分析的两个目标。 本文提出一种基于因果责任概念的高效近似算法来生成必要解释，并在多个环境中评估其效率；通过反事实生成展示必要解释在失效避免中的实际效用，并表明其优于现有方法。