TIC-VLA：面向动态环境机器人导航的思维在控制视觉-语言-行动模型

显式建模推理延迟，实现秒级VLM推理下的实时机器人导航

前置知识

VLA模型

Vision-Language-Action模型将感知、语言理解和统一控制在一个端到端学习系统中。它结合大型视觉语言模型（VLM），使机器人能够进行语义理解、任务推理和指令遵循。典型架构包括共享的视觉编码器、语言模型和策略网络，能够直接从视觉观察和语言指令输出控制动作。

本文的基础框架，TIC-VLA基于VLA架构进行改进，需要理解其基本组成和工作原理才能理解延迟建模的创新点。

推理延迟

指模型从接收输入到产生输出所需的时间。对于大型视觉语言模型，推理延迟可能长达数秒，而机器人控制循环通常需要以10-50Hz的频率运行。延迟包括两部分：模型推理时间$t_{infer}$和自上次推理完成以来经过的时间$t_{elapse}$。有效延迟$\Delta t = t_{infer} + t_{elapse}$。

本文核心问题，所有方法设计围绕建模和补偿推理延迟展开，理解延迟的来源和影响是读懂论文的关键。

异步推理

一种系统架构模式，允许不同模块以不同频率独立运行。在机器人导航中，语义推理模块可以异步、间歇性地执行，而控制策略则以高频连续运行，不等待推理完成。这与同步推理相反，后者在推理期间会暂停控制。

TIC-VLA采用异步架构，关键创新在于不仅分离推理和控制，还让延迟成为显式输入，理解异步执行机制对理解系统设计至关重要。

PPO算法

Proximal Policy Optimization是一种近端策略优化算法，属于策略梯度方法。它通过裁剪策略更新幅度（clip ratio $\epsilon$通常设为0.2）来保证策略更新不会偏离当前策略太远，从而在稳定性和样本效率之间取得平衡。PPO使用价值函数计算优势函数，并最小化裁剪后的代理目标函数。

本文用于在线强化学习微调策略，理解PPO的基本原理有助于理解为什么延迟一致性训练能提高鲁棒性。

研究动机

现有VLA模型隐式假设推理和控制是时间对齐的，即语义推理产生的输出对应于机器人当前的观察和环境状态。然而，在实际部署中，VLM推理需要数秒时间，而机器人以几十Hz的频率执行控制动作，导致语义输出描述的是过去的世界状态而非当前状态。例如，当VLM推理延迟为3秒时，机器人已经移动了若干米，语义状态可能描述的是一个3秒前经过的走廊交叉路口，但机器人当前可能已经穿过交叉路口。这种时间错位会导致策略在实际部署中性能严重下降，特别是在移动机器人等计算资源受限的平台上，VLM推理延迟与控制频率的差距更加明显。

本文的目标是本文的目标是设计一个延迟感知的VLA框架，能够在存在显著推理延迟的情况下实现鲁棒的实时机器人导航。具体而言，框架需要允许语义推理异步执行，同时让控制策略能够理解并补偿延迟的语义信息，在动态环境中安全高效地遵循语言指令导航。

与已有工作不同的是，与现有工作的核心区别在于，TIC-VLA不仅将推理与控制分离，还让延迟成为显式的建模变量。已有异步或双系统VLA方法（如DualVLN、StreamVLN）虽然分离了慢速推理和快速控制，但仍假设语义输出是时间新鲜的，将推理延迟视为可忽略的工程问题。TIC-VLA则认为延迟不仅是工程问题，更是根本的建模问题，通过延迟语义控制接口和延迟一致性训练，让策略学会在延迟的语义引导下进行实时控制。

核心方法

TIC-VLA采用双系统异步执行架构。高层的VLM推理模块以低频运行（约0.5Hz），对延迟的视觉上下文进行语义推理，生成场景理解、关键物体识别、意图预测和未来航点等输出。低层的动作策略以高频运行（10Hz），基于当前观察、机器人状态、延迟的VLM隐藏状态和显式延迟元数据生成动作。关键创新在于延迟语义控制接口：VLM输出的语义状态明确标注了生成时间戳，策略同时接收延迟$\Delta t$和自推理生成以来累积的运动偏移$\Delta p = (\Delta x, \Delta y, \Delta heta)$，这样策略就能将延迟的语义信息在当前机器人框架下重新解释。例如，VLM输出的航点是相对于推理启动时刻的坐标系，策略根据运动偏移将其转换到当前坐标系。延迟一致性训练流程在模仿学习和强化学习期间注入随机推理延迟，使策略在训练时就暴露于时间错位的语义表示。

核心创新是将推理延迟和控制策略显式耦合，而非作为工程细节隐藏。具体体现在三个方面：（1）延迟语义控制接口：策略不仅接收延迟的语义特征，还接收延迟时长和运动偏移元数据，策略学会在当前框架下解释延迟信息；（2）KV缓存接口：使用VLM最后一层的KV缓存特征而非稀疏航点，保留更丰富的语义和上下文信息；（3）延迟一致性训练：在训练中注入推理延迟，使策略训练时的输入分布与部署时一致。实验表明，没有延迟建模的策略在延迟下性能下降明显，而TIC-VLA即使在3-5秒延迟下仍保持高成功率。

方法步骤详情

方法分为三个阶段：（1）VLM监督微调：基于SCAND（8.7小时）、GND（11小时）、DynaNav（5.1小时）数据集，使用GPT-5自动生成长航向导航指令和简洁思维链推理标注。VLM学习生成推理增强的序列或仅航点输出，视觉编码器冻结。（2）延迟推理模仿学习：动作策略通过模仿学习训练，采样推理延迟$\Delta t \sim U(0, 10)$，策略基于当前观察、延迟的VLM隐藏状态和延迟元数据预测动作块。使用Smooth L1损失比较预测轨迹与真实轨迹。对于航点指导的变体，将延迟的VLM预测航点转换到机器人当前坐标系。（3）在线强化学习：使用PPO微调动作策略，VLM和视觉编码器冻结。策略输出高斯动作分布，均值来自预测轨迹，标准差可学习。奖励函数$rt = wgrgoalt + wprprogresst + wcrcollisiont + wsrspeedt$，权重分别为$wg=400$、$wp=5$、$wc=-100$、$ws=-0.1$。RL期间注入随机推理延迟以模拟部署条件。

技术新颖性

技术新颖性体现在三个方面：（1）理论层面：首次将推理延迟建模为控制问题的核心变量，而非视为工程噪音。证明了延迟不仅是效率问题，更是对策略泛化的根本挑战。（2）架构层面：延迟语义控制接口设计简洁有效，既不需要修改VLM架构，又能让策略显式利用延迟信息。KV缓存接口相比航点接口保留了更丰富语义，提升成功率从30.59%到47.06%。（3）训练层面：延迟一致性训练策略无需额外标注，通过延迟注入即可大幅提升鲁棒性，RL微调进一步将成功率从47.06%提升到55.29%。与同步变体对比（成功率32.94%），证明了显式延迟建模的重要性。

**Figure 1**: TIC-VLA enables real-time, language-conditioned navigation by decoupling slow vision-language reasoning from fast reactive control via a delayed semantic-control interface. A latency-consistent training strategy improves robustness under variable reasoning delays. Performance is demonstrated in the DynaNav simulation and real-world indoor and outdoor navigation tasks.

**Figure 2**: Overview of TIC-VLA. The architecture adopts a decoupled dual-system design with a fast action expert and a slow reasoning VLM. A shared vision encoder provides real-time observations to the policy and time-lagged observations to the VLM, where the delay arises naturally from slow inference. The delayed semantic-control interface (including delayed VLM KV cache features and latency metadata) is explicitly recorded. The Transformer-based action expert takes as input the current observation, robot state, and delayed semantic-control interface data to generate actions from learnable action queries via cross-attention. Multi-stage latency-consistent training combines imitation learning with delayed inference and reinforcement learning to ensure robustness to realistic conditions.

**Figure 3**: Details of TIC-VLA action policy structure, training, and asynchronous execution. (a) Latency-aware action policy that predicts action chunks from multimodal inputs. (b) Value network used during online reinforcement learning. (c) Three-stage latency-consistent training pipeline combining VLM supervision, imitation learning, and reinforcement learning. (d) Asynchronous inference and control with explicit latency modeling.

实验结果

在DynaNav基准测试的85个测试用例中，TIC-VLA显著优于所有基线方法。在DynaNav基准上，TIC-VLA（含RL微调）达到55.29%成功率、10.55米导航误差、50.29% SPL和28.24%碰撞率，优于点目标方法NavDP（54.12% SR、8.61m NE、52.62% SPL、30.59% CR）和语言指导基线OmniVLA（31.76% SR、16.53m NE、28.33% SPL、49.41% CR）。同步TIC-VLA变体性能下降明显（32.94% SR、16.31m NE、29.64% SPL、41.18% CR），证明显式延迟建模的关键性。延迟鲁棒性分析显示，RL微调策略在1-5秒延迟下成功率从47.06%缓慢降至约45%，而仅IL的策略从47.06%降至约30%，表明RL显著提升了抗延迟能力。接口消融显示，KV缓存+延迟感知达到最佳性能（47.06% SR），相比Waypoint接口（22.35% SR）提升显著。自运动偏移消融显示，没有偏移信息时策略性能下降（41.18% SR），证明策略需要运动元数据来重新解释延迟语义。预测地平线消融显示，3秒地平线达到最佳平衡，1秒地平线碰撞率低但成功率低，5秒地平线控制精度下降。真实世界测试在四种硬件平台上进行，在RTX 4060上达到85%成功率，在Jetson Orin NX上达到75%成功率，VLM推理延迟分别为3431ms和4831ms。与DualVLN（50% SR）和NaVILA（35% SR）对比，TIC-VLA在更小模型和更低控制延迟下取得更优性能。

**Table 1**: Performance of TIC-VLA and baseline methods on the DynaNav benchmark. BC, RL, and NavDP are point-goal-based.

**Table 2**: Influence of semantic interface and latency training.

**Table 3**: Real-world testing results. Runtimes for dual-system methods are reported as action policy / VLM reasoning latency.

**Table 4**: Effect of VLM reasoning at test time.

**Table 5**: Effect of action prediction horizon. Results are reported without RL fine-tuning.

**Table 6**: Effect of incorporating ego-motion offset into the latency-aware action policy. Results are reported without RL fine-tuning.

**Figure 4**: Qualitative closed-loop results of TIC-VLA in DynaNav hospital (top) and office (bottom) environments. TIC-VLA demonstrates effective semantic reasoning while producing reactive navigation actions in dynamic scenarios.

**Figure 5**: The effect of VLM asynchronous reasoning inference latency in TIC-VLA on task performance.

**Figure 6**: Real-world evaluation of TIC-VLA. (a) Hardware configuration, including the robot platform and computation setup. (b) Designed indoor and outdoor vision-language navigation tasks. (c) Qualitative results from an indoor hallway navigation task, showing the robot following natural language instructions while avoiding obstacles and humans and reaching the goal.

**Figure 9**: Overview of the DynaNav benchmark. Task instructions are provided, as well as corresponding navigation scenarios across the Hospital, Office, Outdoor, and Warehouse environments, highlighting variations in scene layout, landmarks, and human density.

查看结构化数据

任务	指标	本文	基线	提升
DynaNav仿真导航	Success Rate (SR)	55.29%	OmniVLA 31.76%	+23.53个百分点
DynaNav仿真导航	Navigation Error (NE)	10.55m	OmniVLA 16.53m	-36.18%
DynaNav仿真导航	Collision Rate (CR)	28.24%	OmniVLA 49.41%	-42.85%
真实世界导航	Success Rate (RTX 4060)	85%	DualVLN 50%	+70%
真实世界导航	Success Rate (Jetson Orin NX)	75%	NaVILA 35%	+114%

局限与改进

作者承认三个主要局限性：首先，当前系统在运行时效率方面尚未完全优化，推理速度和部署仍有改进空间。其次，真实世界评估规模有限，需要更大规模研究来进一步验证鲁棒性。第三，目前专注于导航任务，扩展到机器人操作等其他领域是未来工作。此外，从观察中还可发现：延迟控制通过调度而非实际模型推理实现，可能与真实硬件延迟存在差异；KV缓存特征投影到512维，可能损失部分语义信息；DynaNav基准测试85个episode，场景多样性可能仍不足以评估全面泛化能力；真实世界测试仅进行五次实验，统计显著性有限。

独立分析的弱点

从独立分析角度，论文存在以下可改进的弱点：（1）延迟控制机制不真实：论文通过调度控制延迟而非实际模型推理，这可能与真实硬件上VLM推理时间变化特性不一致。真实VLM推理延迟受输入复杂度、硬件负载等因素影响，论文使用固定延迟分布可能过于简化。改进方向：在实际硬件上测量VLM推理延迟分布，并在训练中采样真实延迟。（2）语义信息损失：KV缓存特征从256维投影到512维，可能压缩部分语义信息。此外，token dropout率0.1可能进一步损失语义上下文。改进方向：探索更高维的投影空间或使用注意力机制保留关键token。（3）评估规模有限：真实世界测试仅85个episode和4个场景，每个任务仅5次试验，统计显著性有限。改进方向：扩大真实世界测试规模，增加场景类型和任务多样性。（4）长航向任务能力未充分验证：DynaNav测试场景相对紧凑，长距离导航（如户外环境1km+）的性能未充分评估。改进方向：增加长航向任务，评估策略在长时间运行下的累积误差和记忆能力。

未来方向

作者提出和基于成果可延伸的未来研究方向包括：提高运行时效率，优化推理速度和部署以支持更广泛的应用；扩展更大规模的真实世界评估以进一步验证鲁棒性；将方法扩展到导航之外的机器人操作等任务。基于本文成果，以下方向值得探索：（1）自适应推理频率：根据场景复杂度和任务阶段动态调整VLM推理频率，在静态环境中降低推理频率以节省算力，在动态环境中提高推理频率以获得更准确的语义指导。（2）多模态延迟感知：除视觉语言外，将其他传感器模态（如激光雷达、深度）纳入延迟感知框架，建立多模态延迟补偿机制。（3）元学习适应新环境：通过元学习使策略快速适应新环境的推理延迟特性，减少在线适应时间。（4）延迟预测建模：学习预测推理延迟，使策略能够提前规划动作序列，补偿预期的延迟。（5）分布式推理：将VLM推理卸载到边缘服务器或云，研究网络延迟与推理延迟的联合建模和补偿。

复现评估

论文提供了详细的复现信息。模型基于InternVL3-1B，包含InternViT-300M视觉编码器和Qwen2.5-0.5B语言模型，参数量约1.5B。动作专家为6层交叉注意力Transformer，维度512。训练使用三个数据集：SCAND（8.7小时）、GND（11小时）、DynaNav（5.1小时），数据标注使用GPT-5自动生成。VLM SFT在8张NVIDIA L40S GPU上训练，batch size 2 per GPU，学习率$2 imes 10^{-5}$，AdamW优化器，余弦学习率调度。动作专家训练batch size 16 per GPU，学习率$2 imes 10^{-4}$。RL微调在单张L40S GPU上进行400次迭代，3个任务3个环境循环训练。评估指标和协议详细定义在附录。论文提供项目网站https://ucla-mobility.github.io/TIC-VLA/，但未明确声明代码开源。整体复现难度中等，主要难点在于DynaNav仿真环境的搭建和VLM标注数据的生成。