Physical AI 中的静默失败：自主系统运行时动作授权的文献综述 Silent Failures in Physical AI: A Literature Review of Runtime Action Authorization for Autonomous Systems

方法按九个递进步骤展开。第一步用最小记号形式化问题：定义策略（公式1）、状态估计、约束集，并写出授权事件 $\xi_t$（公式2）与核心授权缺口不等式（公式3）。第二步给出静默失败的形式化定义 $F_t$（公式4），明确'静默'意味着系统继续运行而内部假设偏离现实。第三步把形式化与既有安全理论对接，给出三个锚点：保守不确定性下的最坏情形约束检查 $q_t$ 与鲁棒授权 $G_{\text{rob}}$（公式5）、安全滤波器投影（公式6）、CBF 前向不变性条件（公式7），并主张完整护栏是它们的合取（公式8）。第四步把授权事件 $\xi_t$ 提升为跨系统比较的'分析单元'——VLA、世界模型、模拟器、安全滤波、监控器和基准都能被问'它贡献了 $\xi_t$ 的哪一格'。第五步用 Table 1 把形式化翻成七项护栏功能分类法。第六步对 11 条研究脉络按其贡献的接口维度编码（模型提案/状态证据/物理可行性/操作约束/运行时决策/回退/评估协议/审计证据），并以 Table 2 把每条脉络的隐含假设画成一张假设地图。第七步梳理能力趋势（OpenX、Octo、OpenVLA、π0、LeRobot、GR00T N1 等）并指出任务成功率仍未回答授权问题（Table 3）。第八步用三组量化指标 UAIR（公式10）、FBR、PCIR（公式11）、RVS（公式12）配合 Table 4/5 提出评估要求。第九步把全部内容蒸馏成 Table 7 的最小授权事件 schema（观测上下文、提案动作、状态估计、状态有效性证据、活跃约束、授权决策、回退、时序证据、审计轨迹九个字段）。

技术新颖性体现在把分散文献'重组'而非'堆叠'为统一接口。其一是提出并形式化了'静默物理动作失败'这一部署导向概念（公式4），把幻觉、OOD、传感器漂移、状态估计误差、无效可供性等不同机理统一到'系统仍在运行、仍自信、却基于无效状态行动'这一框架下，连接了模型级与感知级错误到物理后果。其二是把授权事件 $\xi_t$ 提升为跨架构的比较单元——无论底层是 VLA、世界模型还是模拟器，都可以被问'它为 $\xi_t$ 贡献了哪一格'，这绕开了'强迫所有模型共享同一内部表示'的难题。其三是把护栏建模为七维合取 $G=\bigwedge G_\ell$，并用 Table 2 的假设地图显式暴露每条文献的接口假设，论证它们为何不能自动组合。其四是评估范式的转移：从'任务成功率'转向'干预质量'，提出 UAIR/FBR/PCIR/RVS 四族指标衡量护栏拦截无效动作、不过度拦截有效动作、在物理承诺前干预、以及干预后的残余违反幅度。其五是把整件事做成模型无关、可审计、可证伪的立场（§9.6 给出可证伪的推论）。需要强调的是本文是综述/立场论文，新颖性在于概念综合与框架，而非新算法或新实验。

弱点一：框架本身缺乏实证验证。论文提出 UAIR/FBR/PCIR/RVS（公式10–12）和 Table 7 的最小 schema，但全文没有在任何一个真实护栏系统上跑过这些指标，也没有跨模型/跨平台的对比实验，所有'护栏该如何被衡量'的论点停留在思想实验层面。改进方向：在一个开放 VLA（如 OpenVLA/π0）+ 一个模拟器（Isaac Lab/CARLA）+ 一个语义护栏（RoboGuard）的组合上，构造 §8 的八类代表性失败用例（遮挡障碍、陈旧帧、幻觉抓取、禁区违规、负载/速度超限、过对抗指令、晚干预、不安全回退），实际计算这四个指标并报告。弱点二：'silent failure'是一个打包概念。它把幻觉、OOD、漂移、状态估计误差、无效可供性等机理归为一类，有利于部署叙事，但混淆了需要不同检测仪表的故障。改进方向：对 $F_t$ 做机理分解，给出按机理分层的 $F_t^{hall}, F_t^{ood}, F_t^{drift}$ 等子指标，使护栏能被诊断到根因（呼应 AgentDoG 的轨迹级诊断思路）。弱点三：仓库机器人停止距离算例（公式9）是孤立的、未验证的说明，参数 $v_t=1.2$、$\tau=0.25$、$a_{\text{brake}}=1.6$、$d_{\text{margin}}=0.2$ 来自假设而非测量。改进方向：用真实机器人闭环数据标定这些参数，并展示授权层在不同净距下的 UAIR/FBR 曲线。弱点四：接口假设地图（Table 2）用'yes/partial/limited/assumes/signal/simulated'等定性编码，主观性强且不可复现。改进方向：为每条流脉给出可机器判定的二值接口检查清单，使 Table 2 可被独立复现。弱点五：作者强调护栏应'不依赖被评估的那个黑盒模型'，但全文未讨论如何用另一个（同样可能不可靠的）模型来构造护栏本身的决策函数 $G$，存在回归/谁来守护守护者的悬置。改进方向：探讨基于确定性规则、形式化约束或可证明安全的护栏内核，把学习型护栏只作为辅助。

作者在 §9.5 明确提出六个开放问题：动作接口——无人机、自主移动机器人、车辆、机械臂、人形机器人之间'提案物理动作'的正确抽象是什么；状态可靠性——运行时系统如何量化'当前世界表示对某个具体动作是否足够可靠'；约束组合——如何在不产生脆弱规则系统的前提下组合语义、空间、运动学、操作、安全约束；护栏评估——什么比较评估方法能衡量护栏层在普通任务完成之外是否减少或检测到静默失败；跨平台学习——部署日志和边缘案例如何改进护栏策略同时保持模型无关性和可审计性；运行时治理——系统何时应拦截/修改/推迟/升级提案动作，决策该如何被解释。基于本成果可延伸的方向包括：第一，把 Table 7 的最小 schema 实现为一个开放基准协议，让 VLA/世界模型/护栏在统一 $\xi_t$ 记录上被比较，填补'无单一评估设置覆盖完整运行时授权路径'的空白；第二，把 §9.6 的可证伪推论变成一组实际可跑的假设检验，持续监控新一代 VLA 是否在缩小授权缺口；第三，研究'世界模型生成的想象 rollout'如何同时充当护栏的预测证据与静默失败来源，探索对想象 rollout 做约束与恢复检查；第四，把 Humanoid/embodied reasoning（GR00T N1、Gemini Robotics-ER 1.6）这类跨层监控需求更重的系统作为高价值验证场，因为其感知-规划-控制链更长、silent failure 风险更高；第五，探索从部署日志做持续护栏精化的闭环（Figure 6 的离线基准→运行时监控→边缘案例证据→护栏评估的连续循环），同时研究回退动作自身的有效性条件。

复现评估需区分'复现论文论点'与'复现实验'两类。作为综述/立场论文，本文未提供代码、数据集或新基准，因此传统意义上的实验复现不适用——作者在 §11 明确声明'本文提出评估要求和指标族，但并不引入新基准或对护栏实现的实证评估'。然而论文的形式化与指标定义是可复现的：公式（1）–（12）全部给出，UAIR $=\frac1{|D_0|}\sum_{i\in D_0}\mathbb I[\rho_i\in\mathcal I]$、FBR、PCIR、RVS $=\frac1{NK}\sum_i\sum_k\max\{0,\tilde c_k(a_i^{out},s_i)\}$ 的计算规则清晰，Table 7 的九字段 schema 也足够具体，研究者可以自行在 OpenVLA/π0 + Isaac Lab/CARLA 上实现这套记录与指标；引用的实证数字（OpenVLA 7B/970k/+16.5pp/+20.4pp、WoVR 39.95%→69.2%、RB-VLA 32.5%→77.5%、RoboGuard 92%→2.5% 等）均可在对应被引文献中追溯。算力方面，复现一个最小护栏评估需要至少能跑 7B 级 VLA 的推理硬件与一个 GPU 物理模拟器，整体门槛中等偏高。难度主要不在代码而在'构造覆盖八类失败用例的逼真闭环场景'——这正对应作者反复强调的'无单一评估设置覆盖完整运行时授权路径'的空白。总体而言，论文的概念与公式可复现，但其综合主张（11 流脉分类、Table 2 假设编码、7 维合取护栏）属于诠释性合成，需要社区共同验证；作者也在 §9.6 以可证伪推论的形式邀请未来工作来证伪或加强其论点。