风险感知世界模型预测控制用于通用端到端自动驾驶 Risk-Aware World Model Predictive Control for Generalizable End-to-End Autonomous Driving

RaWMPC的方法步骤完整描述如下：(1)输入编码：使用视觉编码器（预训练ViT）、动作编码器和自车状态编码器（基于MLP）将多视角图像It、候选驾驶行为序列{Ant:t+H-1}Nn=1（N=10个候选）和自车测量Mt（速度和位置）映射到嵌入it、{ant:t+H-1}Nn=1和mt。(2)世界模型预测：世界模型M基于观测状态s1:t=(i1:t,m1:t)和潜在下一个动作ant预测近未来状态sn̂t+1。对于进一步的未来时间步{2,...,H}（H=10），世界模型递归展开，形式化为自回归因子化pM(sn̂t+1:t+H|s1:t,an1:t+H-1)=∏k=1H pM(sn̂t+k|(s1:t,sn̂t+1:t+k-1),an1:t+k-1)。(3)语义引导解码：一旦世界模型预测了未来状态序列sn̂t+1:t+H，三个transformer解码器分别将这些状态映射到任务特定输出：语义分割、潜在交通事件（如碰撞）和未来自车状态（如位置）。分割解码器采用标准transformer注意力，最后一层遵循SegViT预测每个输入类查询的one-hot语义分割图Ŷnt+k。事件解码器通过融合来自分割解码器的语义注意力logits来增强，输出En̂t+k,j∈[0,1]α表示α种事件类型的概率。自车状态预测解码自车tokenmn̂t+k⊂sn̂t+k获得速度和位置M̂nt+k。(4)动作选择和预测控制：给定解码器输出，通过评估每个候选动作序列在规划时域H上的预测成本并选择最小成本的动作来执行预测控制。对于第n个候选Ant:t+H-1，考虑(i)向目标的进展和(ii)交通违规事件的风险。进展定义为到目标距离的减少：Dn̂t+k=||p*-pn̂t+k-1||²-||p*-pn̂t+k||²，其中p*是目标3D位置，pn̂t+k⊂M̂nt+k是预测自车位置。预测控制目标为C(sn̂t+1:t+H)=∑k=1H ηk(-Dn̂t+k+∑j=1α λjEn̂t+k,j)，其中ηk=max(2^(-k+1),1/8)对远期预测进行降权以考虑增加的不确定性，λj>0反映违规类型j的严重性（如行人/车辆碰撞分配更大权重）。最终选择最小化时域成本的动作序列，即n*=argminn∈{1,...,N} C(sn̂t+1:t+H)。(5)风险感知交互训练：训练采用两阶段策略。首先使用记录的驾驶轨迹进行离线世界模型预热，给定状态-动作序列{(st,at)}Tt=1，世界模型预测下一个状态sn̂t+1并用Lworld匹配真实st+1。然后通过在线模拟器交互优化，在每个训练步骤采样Ns=50个时域H候选动作序列{Ant:t+H-1}Nsn=1，用当前世界模型展开未来状态sn̂t+1:t+H，用式(6)评估成本{Cn}并按成本排序候选。定义三种模式的概率：rand（均匀采样）概率ε1，bad（从高成本候选采样）概率(1-ε1)ε2，good（从低成本候选采样）概率(1-ε1)(1-ε2)。在good模式中使用软分布P(n|good)∝exp(-Cn/τg)从Ngood（底部K个候选）采样，在bad模式中使用P(n|bad)∝exp(Cn/τb)从Nbad（顶部K个候选）采样，τg=0.5和τb=1.0是温度超参数。(6)自评估蒸馏：风险感知交互训练后，将评估能力蒸馏到轻量级动作提议网络。给定状态历史s1:t，随机采样Ns=50个时域H动作序列{Ant:t+H-1}Nsn=1，用预训练RaWMPC计算成本{Cn}并按成本排序形成伪标签：最低成本序列作为正例A+，顶部K=5个最高成本序列作为负例{A-j}Kj=1。采用条件VAE(cVAE)作为动作提议网络，对于正例获得高斯后验q+=qθ(z|A+,s)=N(μ+,diag((σ+)²))，对每个负例计算q-j=qθ(z|A-j,s)=N(μ-j,diag((σ-j)²))但不重构负例以防止生成器模仿不安全行为。使用InfoNCE目标Lc=-log(exp(ℓ+)/(exp(ℓ+)+∑j=1K exp(ℓ-j)))，其中ℓ+=-D(q+,pc)/τ，ℓ-j=-D(q+,q-j)/τ，D(·,·)是高斯之间的Wasserstein-2距离，τ=0.3是温度。总损失为Ltotal=Ez∼q+[-log pψ(A+|z,s)]+β DKL(q+||pc)+λ Lc。

RaWMPC的技术新颖性体现在多个方面。首先，它是首个零专家依赖的端到端自动驾驶框架，与所有需要专家监督的模仿学习方法和基于奖励的强化学习方法有本质区别。其次，风险感知交互策略通过有意让模型选择自我识别的高风险动作与环境交互，从零开始学习风险意识，这与传统的ε-贪婪或随机探索有根本不同。第三，自评估蒸馏使用RaWMPC作为自评估器对采样动作进行伪标注，通过对比学习训练生成策略，完全避免了专家演示，这在自动驾驶政策学习中是开创性的。第四，语义引导解码将分割解码器的语义注意力注入事件解码器，使事件解码器能够更多关注对特定事件关键的区域（如识别车辆碰撞事件时更多关注车辆区域），提高了事件预测的准确性和可靠性。最后，分段式采样（segment-wise）而非单步采样确保了时间连续性和避免不现实的控制抖动，允许持续的安全或危险行为展开并揭示其长期后果，这是对传统强化学习中单步交互的改进。

RaWMPC存在的独立分析弱点包括：计算复杂度相对较高，测试时需要展开多个候选动作的长时域预测并进行成本评估，这在实时性要求高的自动驾驶场景中可能成为瓶颈，可以考虑通过轻量化世界模型架构或减少候选动作数量来改进。世界模型的预测误差可能累积，特别是在长时域（H=15）时性能下降，可以通过引入不确定性估计或更鲁棒的预测机制来缓解。对罕见事件的精度较低（如行人碰撞精度0.52）可能导致过度保守行为，在安全关键场景中可能过于谨慎而影响效率，可以通过改进事件解码器的训练策略或引入更精细的风险权衡机制来优化。完全从零学习（不预热）需要大量在线交互，在实际部署中可能不现实，可以考虑利用预训练视觉编码器或从真实世界数据中学习基础动态模型来加速收敛。动作空间被限制为转向、油门、刹车三个连续值，可能无法充分表达复杂驾驶场景中的所有必要动作，可以考虑扩展动作空间（如信号灯控制、通信动作等）。最后，RaWMPC主要关注单车决策，在多车协同或车路协同场景中的适用性有待探索。

作者提出的未来工作方向包括探索域适应和更高效的规划以更好地支持真实世界部署和sim-to-real转移。基于RaWMPC的成果可以延伸的研究方向包括：将风险感知预测控制框架扩展到多智能体交互场景，使多个车辆能够协调决策以提高整体交通效率和安全性。引入更细粒度的风险建模，区分不同类型和严重性的风险事件，以实现更灵活的风险权衡策略。探索将大语言模型或视觉-语言模型与风险感知世界模型结合，以增强可解释性和人类可理解的决策解释。研究在不同传感器配置（如纯相机vs激光雷达-相机融合）下的RaWMPC性能，以优化传感器部署策略。开发更高效的规划算法，如层次化规划或离线预计算与在线调整相结合，以减少测试时计算负担。最后，在真实世界数据集和真实车辆上验证RaWMPC的有效性，推动sim-to-real转移技术发展。

RaWMPC的复现评估如下：论文使用的数据集Bench2Drive [29]和NAVSIM [11]都是公开可用的，分别可在相应的官方网址获取。代码实现细节描述较为详细，包括网络架构（预训练ViT视觉编码器、SegViT分割头、4层8注意力头的transformer世界模型）、训练配置（Adam优化器，初始学习率10^-4衰减到10^-5，批大小16）和超参数设置（H=10、N=10、ηk=max(2^(-k+1),1/8)、λj=[10,15,30]、ε1线性退火从1到0、ε2线性增加从0到0.3、Ns=50、K=5、τg=0.5、τb=1.0、τ=0.3、cVAE潜在维度32、KL权重β:0→0.1、对比权重λ=0.1）。然而，论文没有明确说明是否将开源代码和模型权重，这对复现有一定影响。算力需求方面，论文提到在四个NVIDIA A100 GPU上进行训练，这对一般研究团队来说是比较高的门槛。测试时推理的计算复杂度主要来自世界模型的N=10个候选展开和H=10步预测，以及三个解码器的推理，相比直接端到端方法计算量更大，但动作提议网络的蒸馏部分（cVAE）有助于减少在线优化成本。总体来说，复现难度为中等偏高，主要挑战在于算力需求和可能的代码不可用性，但如果论文开源代码和预训练模型，复现的可行性会大大提高。