MorphAct：随交互环境形变的机器人策略 MorphAct: Robot Policies Morphing with the Worlds They Act In

完整流程分四步（对应论文算法 1/2）。第一步，编码：对当前语境 $x_t=(o_t,\ell,s_t)$ 做宿主策略的原生预处理，得到嵌入 $e_t$ 与有效性掩码；变长条件按掩码压缩、按序列长度分组，生成后恢复原始批序以保留梯度。第二步，视觉-语言更新生成与适配前向：$G_v$ 以 $e_t$ 为条件生成选定 VLM 投影的因子——Q/K/V 投影按实际 query/key-value 头数用输出头块拼装（$\Delta W_Q=[\frac{\alpha}{r}A_1B_1,\dots,\frac{\alpha}{r}A_{H_q}B_{H_q}]$，$A_h\in\mathbb{R}^{d_{in}\times r}$，$B_h\in\mathbb{R}^{r\times d_h}$），注意力输出投影按输入头求和贡献（$\delta y_O=\sum_{h=1}^{H_q}\frac{\alpha}{r}u_hA_hB_h$），前馈投影用矩阵级因子；随后以 $\theta_v+\Delta\theta_v$ 执行一次适配的 VLM 前向，同时产出 $h_t$ 与 $C_t$。第三步，动作更新生成：构造器 $C_a$ 把 $s_t$ 经 $\rho_a$ 投影为状态 token 追加到 $h_t$ 构成 $u_{a,t}$（X-VLA 还附加原生辅助视图特征），$G_a$ 据此生成动作专家选定投影的 $\Delta\theta_a$。第四步，训练或推理：训练时对示范 $(x_t,Y_t)$ 采样 $\xi=(\tau,\epsilon)$，构造 $z_\tau=\tau\epsilon+(1-\tau)Y_t$，$\pi_0$/$\pi_{0.5}$ 最小化速度预测损失 $\mathcal{L}_\pi=\mathbb{E}\|v_\Phi(z_\tau,\tau,x_t)-(\epsilon-Y_t)\|_2^2$，X-VLA 预测干净动作；只优化 $\Phi=(\phi_v,\phi_a,\rho_a,\psi)$，骨干冻结，生成因子是可微中间输出而非独立优化变量。推理时缓存生成的更新与 $C_t$，在动作块内所有求解器评估中复用（生成器不接收噪声动作或求解时间），执行前 $H$ 步后取新观测再重新生成。实现上，A/B 读出头用小非零高斯初始化（标准差 $\sigma_0/\sqrt{d_g}$、零偏置）避免全零初始化造成的梯度结构性阻断；生成器参数 FP32 存储，因子读出、低秩乘积、缩放与残差累加全程 FP32 后再转骨干精度；AdamW 加 warmup、余弦衰减、全局梯度裁剪，非有限损失或梯度范数的更新被跳过。

技术新颖性体现在四个层面。诊断层面：以往多任务冲突研究多在任务间讨论，本文把度量下探到操作粒度，用三组互补证据——负梯度余弦频率（跨任务 47.80%/48.28% 对任务内 38.94%/42.69%）、一步有限迁移（260 次源改进全部损害中位 32/64 个其他任务，最大跨任务相对损失上升 0.80%）、参数组贡献分解（全模块归一化使组贡献可加，跨任务高达 36.13%/30.90% 的绝对贡献被抵消，且冲突贡献高度集中：动作模块外部块 39.02% + block00 23.74% + block11 16.11% 合计 78.88%）——共同论证'同一任务的不同阶段也在争抢同一套参数'，这一证据链是新的。架构层面：首次把 HY-WU 的结构化权重合成原语用于 VLA 的双模块参数生成，按模块宽度深度定制目标布局（头感知的 Q/K/V 块、输入头求和的注意力输出、矩阵级 FF），并用公式 $N_{matrix}=r(d_{in}+d_{out})$ 与 $N_{heads}=H_q r(d_{in}+d_h)$ 刻画不同布局的输出预算差异。耦合层面：以适配后表征作为两生成器之间的信息桥梁，且不截断梯度，让'改表征'与'用改后的表征生成动作参数'形成闭环。训练层面：整套机制只用原生动作目标即可端到端训练，生成器对骨干是即插即用的（Table A7 显示同一接口同时适配了 $\pi$ 系列的流匹配与 X-VLA 的干净动作预测），无需任务标签或蒸馏目标。

弱点一，推理延迟限制高频场景。每次重规划要跑两个生成器并做一次带低秩残差的 VLM 前向，18-21% 的延迟增幅和 21.2Hz 的控制频率在动态装配、人机协作等高频任务中可能不可接受；改进方向包括把生成器蒸馏为更小的条件编码器、对更新加时间一致性正则以跨块缓存复用、或用表征漂移检测只在语境确实变化时重新生成。弱点二，诊断与方法间的因果链未闭合。论文用静态检查点的梯度冲突论证动机，但没有测量 MorphAct 训练后冲突是否被消解——如果训练后的共享生成器仍表现出类似的跨任务梯度冲突，收益就可能另有来源；应报告训练前后冲突指标的变化以闭合论证。弱点三，高精度任务绝对性能仍低。真机 Sort Hardware 基线仅 8%、MorphAct 也只有 22%，远未实用，说明细粒度硬件分拣这类任务不能只靠参数侧适配；可与腕部相机、力觉等更细感知的上下文耦合结合。弱点四，无记忆机制。生成条件只有当前观测与状态，同一指令下历史上失败过的语境无法被规避，也无法积累经验；可引入轻量情景记忆或测试时少样本适配。弱点五，秩分配静态。低秩秩 $r_j$、目标投影集合与缩放 $\alpha_j$ 全部沿用对应 LoRA 配置，未探索语境自适应的秩分配（例如给难操作的块更高秩），这是低垂果实。弱点六，诊断的粒度依赖人工任务 ID 分组，65 组的定义来自 RoboCasa365 的原生任务标识；若任务边界模糊或跨数据集，分组的任意性可能影响冲突结论的稳健性。

作者侧的方向：论文附录给出了生成开销的分解（$T_{policy}\approx T_E+T_{G_v}+T_{F_v}+T_{G_a}+N_{solve}T_{F_a}$），暗示后续会优化生成与残差注入的运行时成本；把诊断扩展到更多检查点、数据源与骨干以巩固冲突结论也是自然延伸。基于成果可延伸的方向：其一，把表征耦合推广到 VLA 的其他组件——记忆模块、价值头、多具身设定，探究'参数生成条件于适配后表征'是否是通用设计原则；其二，与强化学习结合，让生成器从闭环回报而非仅示范损失学习，实现'边执行边变形'的在线策略改进；其三，在参数生成谱系上结合作者团队此前的 diffusion 权重生成与'权重空间是生成模态'的立场，从低秩残差走向生成整块策略权重，用于跨具身、跨场景迁移；其四，与混合专家做系统性对比——上下文生成的低秩更新本质是一种连续软专家，值得在容量、开销、可解释性三个维度上与 MoE 架构对照；其五，把 $\Delta\theta(x_t)$ 随交互的演化轨迹本身作为分析对象，用其对操作阶段做无监督发现与可视化，反过来提升可解释性并验证诊断框架；其六，在干扰物丰富、长程环境（如 RoboCasa365 完整套件）中检验 Long 套件上 5-9pp 的大增益能否进一步放大，因为长程任务恰恰是语境切换最频繁的场景。

复现难度中等偏上，信息披露充分但代码与部分依赖是门槛。有利条件：论文对复现关键细节的披露非常完整——诊断协议给出批量大小、精度（BF16 梯度/FP32 累加）、采样轮数（对齐与贡献 16 轮 33,280 个跨任务对、迁移 4 轮 260 个源）、更新步长 $\eta\approx 0.011322$ 的标定方式，并完整列出 65 个任务 ID；结构化合成给出因子几何（输出头块/输入头求和/矩阵级）与每投影因子数公式 $N_{matrix}=r(d_{in}+d_{out})$、$N_{heads}=H_qr(d_{in}+d_h)$；实现细节含初始化（$\sigma_0/\sqrt{d_g}$ 高斯、零偏置）、精度策略（生成器 FP32、残差累加 FP32）、优化器配置、变长条件处理与非重入激活检查点；算法 1/2 给出训练与推理伪代码；开销数据（300.09M 生成器、49.99M 活动因子、延迟/显存/控制率）可作复现校验基准；另有项目主页。不利条件：论文未声明开源代码，生成器基于 HY-WU 原语而 HY-WU 本身是 arXiv 预印本，需要自行实现跨层注意力、层内参数注意力与 A/B 读出头；诊断依赖 RoboCasa365（ICLR 2026）数据与 $\pi_{0.5}$ 检查点，后者虽是 Physical Intelligence 开放权重但完整预训练流水线不可重训；真机部分需自备机械臂并采集四类任务示范。算力上涉及约 2.9B VLM 加 430M 动作模块的骨干加 300M 生成器联合微调，属于单节点多卡（如 4-8 张 A100）可承受的范围。若官方开源，复现 LIBERO/Meta-World 仿真结果为中等难度；若需从零复刻诊断协议与真机实验，则属高难度。