KinDER：面向机器人学习与规划的物理推理基准 KinDER: A Physical Reasoning Benchmark for Robot Learning and Planning
聚焦物理推理本身，25个仿真环境+13基线评估TAMP/RL/IL/FM
前置知识
任务与运动规划 (TAMP)
Task and Motion Planning 是经典机器人范式，把高层 PDDL 符号任务规划与低层连续运动规划结合，先搜索满足约束的抽象动作序列，再用采样优化求具体轨迹，代表方法为通过 hFF 启发式做贪心最佳优先搜索再回溯采样的双层规划。
KinDER 把 TAMP 作为最强基线（平均 SR 0.57），理解 search-then-sample 流程是看懂 KinDERGym 中 PDDL operator 与 sampler 设计的前提。
Gymnasium API
OpenAI Gym 的标准化 RL 接口，定义环境为 (observation_space, action_space, reset(), step())。KinDERGarden 在此基础上引入 object-centric state（对象名到实值特征向量的映射），使物体数量可变以支持泛化。
论文最大的工程贡献就是把 25 个环境统一到同一 Gymnasium 接口下，使 TAMP、RL、IL、FM 等异构方法能公平对比。
物体中心状态 (Object-centric state)
以物体为基本单位的场景表征，每个物体（机器人、钩子、书等）对应一组类型相关特征，例如移动机器人基座 $SE(2)$ 位姿与速度、臂关节 $R^7$ 配置与速度、夹爪开度 $[0,1]$，可移动物体用 $SE(3)$ 位姿/速度与包围盒维度。
它是 KinDER 的核心设计，让「变量物体数」「变体任务」成为一等公民，也让 VLM/LLM 等基于 prompt 的方法能直接看到结构化场景。
模仿学习与扩散策略 (DP / VLA)
Diffusion Policy 用条件去噪扩散模型预测 16 步动作块，输入最近 2 步观测，image-state 混合 UNet；VLA π0.5 在互联网规模视觉-语言-动作数据预训练后微调。两者与 TAMP 本质区别是不依赖显式符号技能，直接从数据学端到端策略。
DP 与 VLA 是 KinDERBench 中两大 IL 基线，对比它们在物理推理上的表现，是论文评估 SOTA 是否真正具备物理推理能力的关键。
研究动机
现有机器人基准（如 BEHAVIOR-1k、LIBERO、RoboCasa）大多以应用驱动（家庭助理、家具组装、烹饪），物理推理与感知、语言、长视野决策等因素纠缠在一起；专门评测物理推理的基准如 Virtual Tools Game、I-PHYRE 又多停留在 2D 玩具环境，难以反映真实机器人的运动学/动力学约束。这导致三件事很难做清楚：第一，研究者无法知道哪种范式（TAMP、RL、IL、FM）在物理推理上最强；第二，不同子领域对「物理推理」的理解不一样（TAMP 强调约束满足，RL 强调奖励最大化，FM 强调语言推理），缺乏共同测试平台；第三，针对单一物理推理子问题（如工具使用、组合几何约束）的研究分散在各处，难以横向比较，更难推动系统进步。
本文的目标是构建一个专注于物理推理本身、与感知/语言/应用解耦的开放基准，标准化地评测 TAMP、RL、IL、FM 四大范式在 5 类核心物理推理挑战（基本空间关系、非抓取多物体操控、工具使用、组合几何约束、动力学约束）上的表现，提供 25 个可程序化生成变体的环境、统一的 Python 接口、参数化技能库、远程操作演示、13 个基线实现及多指标评估套件，并通过真机验证模拟环境的物理合理性。
与已有工作不同的是，KinDER 抓住了「把物理推理从其他因素中剥离出来」这个被忽视的视角：现有基准要么太综合（应用驱动），要么太抽象（2D 物理游戏）。KinDER 通过 (1) 同时提供 2D 与 3D 运动学/动力学环境，(2) 用 object-centric state 让物体数可变以测试组合爆炸，(3) 在统一 Gymnasium 接口下让规划与学习方法可直接对比，(4) 配套真机回放实验填补 sim-to-real 空白，从而填补了基准生态中「中等抽象度、聚焦物理推理、支持多范式对比」的关键缺口。
核心方法
KinDER 的方法论思路可以类比为「给物理推理造一套标准化学实验器材」：KinDERGarden 提供 25 个涵盖五种核心挑战的仿真环境（6 个 Kinematic2D、4 个 Dynamic2D、5 个 Kinematic3D、10 个 Dynamic3D），每类难度递进且都支持程序化变体生成；KinDERGym 在 Gymnasium 接口之上叠加参数化技能（PDDL operator + 采样器）与概念谓词（relational predicate 分类器）、多种远程操作接口（PS5 控制器、键盘、iPhone、Meta Quest 3S）以及 ≥100 条预收集演示；KinDERBench 则用一致的协议（5 随机种子 × 50 episodes × SR/Rwd/Inf-Time 三指标）评估 13 个代表 TAMP、RL、IL、FM 四大范式的基线。技术上，所有环境共享 object-centric state 设计，二维用纯 Python 或 Pymunk 后端，三维 Kinematic3D 用 PyBullet 运动学+碰撞检测，三维 Dynamic3D 用 MuJoCo 物理引擎，全部用 MuJoCo configuration file 共享代码骨架。
KinDER 的核心创新是把「物理推理」作为独立可测变量抽取出来，并用「变量物体数」这把尺子去放大每种方法的本质短板。已有方法要么假设物体数固定（标准 RL/IL 接口），要么只能在符号层处理（经典 TAMP 难以融入动力学），要么把视觉与状态分开用（VLM 无法充分利用结构化 state）。KinDER 通过统一 object-centric state 让 TAMP 可调用带动力学的连续采样器，让 VLM/LLM 能看到符号场景图，让 IL 可以选择只看 RGB 或融合状态，让测试时简单改变物体数即可暴露「组合爆炸」「规划耗时爆炸」等问题。最关键的发现是：BP（搜索+采样 TAMP）在 8 个环境中平均 SR 0.57，显著高于 LLM/VLM 规划（约 0.34-0.43），而 RL（PPO 0.13, SAC 0.02）几乎完全失败——说明在大模型时代，经典 TAMP 仍是物理推理的最强范式，纯学习路线差距仍大。
方法步骤详情
完整流程分四步。第一步是环境构造：从 object-centric state 出发，Kinematic2D/Dynamic2D 用纯 Python/Pymunk 自定义物理规则（动作约束为对当前位姿的小幅增量，碰撞检测失败时回滚），Kinematic3D 用 PyBullet 调用正向运动学与碰撞检测，Dynamic3D 在 MuJoCo 中以 BDDL 风格描述任务定义并程序化生成初始状态，对象和场景资产来自 RoboCasa 与 MimicLabs。第二步是技能与概念封装：每个参数化技能被建模为 option（带对象参数与连续参数），对应 PDDL operator（前置条件使用 on(object, surface) 这类谓词）与 sampler（生成连续控制点）；概念谓词通过对 object-centric 状态的分类器（如「接触 + 上方」则 On 为真）实例化，形成 two-level scene graph。第三步是演示收集：2D 用 PS5 控制器或鼠标键盘，3D 用 iPhone web app（TidyBot++ 接口，基于陀螺仪/加速度计）或 Meta Quest 3S VR 头显，对有技能的 10 个环境额外可用规划器批量生成演示，每个环境≥100 条。第四步是基线评估：13 个基线（BP、LLMPlan、VLMPlan、LLMCon、VLMCon、MPC、MBRL、GSC、PPO、SAC、DP、DPES、Finetuned π0.5 VLA）跑 5 随机种子、每种子 50 episodes，记录稀疏奖励 SR、平均累积奖励 Rwd、单 episode 推理时间 Inf-Time，并在 Shelf3D 与 TidyBot++ 之间做 real-to-sim-to-real 验证。
技术新颖性
技术新颖性主要体现在三方面。其一是 unified object-centric state 跨越 2D/3D 与 kinematic/dynamic，使同一基线代码可跑不同物理保真度，避免了传统基准中「不同物理引擎要重写基线」的工程负担；其二是程序化变体即「物体数维度」作为标准泛化轴，作者专门为 Kinematic3D Shelf3D 等环境设计了固定物体数变体（如 b5 始终 5 本书），让标准 RL/IL 方法无需特殊接口即可接入；其三是 baseline 广度——同时覆盖经典 TAMP（带或不带 learned sampler）、基于 GPT-5.2 的零样本 LLM/VLM 规划、In-context 版本、模型预测控制、模型学习 RL（用神经转换模型+MPC）、Diffusion Policy（GSC、DP、DPES）以及微调 VLA π0.5，使横向比较成为可能，尤其揭示了 RL 在长视野稀疏奖励下的脆弱（PPO/SAC 在 StickButton2D 上分别为 0.14/0.00）。
实验结果
论文在 8 个代表性环境（Motion2D、StickButton2D、DynObstruction2D、DynPushPullHook2D、BaseMotion3D、Transport3D、Shelf3D、SweepIntoDrawer3D）上系统对比 13 个基线，平均成功率排序为 BP 0.57 > LLMCon 0.43 > VLMCon 0.43 > LLMPlan 0.34 > VLMPlan 0.34 > MPC 0.32 > VLA π0.5 0.32 > GSC 0.26 > DPES 0.25 > DP 0.24 > PPO 0.13 > MBRL 0.08 > SAC 0.02，呈现「高工程成本 + 高推理时间换高成功率」的清晰帕累托前沿。三个关键发现值得特别关注：(1) 在需要工具使用+非抓取多物体操控的 DynPushPullHook2D（5 个障碍）中，只有 VLA π0.5 拿到非零 SR 0.43，其余方法全部失败或几乎为零，说明预训练知识对工具推理有显著增益；(2) VLMPlan 相比 LLMPlan 没有显著提升，说明 GPT-5.2 在结构化 state 已存在时几乎无法额外利用 RGB 图像，但 VLM/VLA 在 Shelf3D 上仍能用图像绕过缺失的状态访问；(3) Bilevel Planning 在 StickButton2D 上的测试时缩放显示：当按钮数从 1 增至 3、5、10 时，SR 从 0.99 暴跌至 0.26、0.02、0.00，规划时间从 1.51s 升至 38.39s，暴露了搜索方法的组合爆炸弱点。RL 在 BaseMotion3D 等简单任务上 dense reward 可让 PPO 与 SAC 的 SR 提升（PPO 0.10 vs 0.00），但仍远低于规划方法，证明长视野稀疏奖励是标准 RL 的根本性瓶颈。OOD 泛化方面，DP 与 VLA 在 DynObstruction2D 上从 1 障碍训练后推广到 0、2、3 障碍仍保持 ≥0.26 的 SR，VLA 凭借预训练对物体数变化最稳健（0.40-0.52）。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Motion2D (Kinematic2D, 无障碍到达) | Success Rate | BP/LLMCon/VLMCon/VLMPlan = 1.00 | SAC = 0.00, PPO = 0.80 | 规划方法相对 RL 提升 ≥25% |
| StickButton2D (Kinematic2D, 工具使用) | Success Rate | BP = 0.99 | LLMPlan/VLMPlan = 0.25-0.28, GSC = 0.08, SAC = 0.00 | BP 相对次强 LLMCon (0.44) 提升 +125% |
| DynObstruction2D (Dynamic2D, 1 障碍) | Success Rate | VLA = 0.50 | BP = 0.08, DP = 0.33, GSC = 0.32 | VLA 相对最强传统方法 (DP 0.33) 提升 +51% |
| DynPushPullHook2D (Dynamic2D, 5 障碍+工具) | Success Rate | VLA π0.5 = 0.43 | BP/LLMCon/VLMCon = 0.01, 其余方法 = 0.00 | VLA 相对最强非 VLA 方法 (0.01) 提升 +4200% |
| BaseMotion3D (Kinematic3D, 无障碍) | Success Rate | BP/LLMCon/VLMCon/LLMPlan/VLMPlan = 1.00 | PPO = 0.00, SAC = 0.15, MBRL = 0.06 | 规划方法相对 RL 接近 100% 胜率 |
| Transport3D (Kinematic3D, 工具使用+组合) | Success Rate | BP = 0.46 | VLA/DP/GSC/RL = 0.00 | 规划方法在 3D 工具任务上仍领先 |
| Shelf3D (Dynamic3D, 1 物体入架) | Success Rate | BP = 1.00 | LLMPlan/VLMPlan/MPC = 0.00, DP = 0.13, VLA = 0.02 | BP 相对 LLM/VLM 规划提升无穷大 |
| SweepIntoDrawer3D (Dynamic3D, 长视野+工具+动力学) | Success Rate | DP = 0.14, DPES = 0.04, BP = 0.03 | LLM/VLM/MPC/VLA/RL = 0.00 | IL 在长视野组合任务上首次击败规划方法 |
局限与改进
作者明确承认三点局限：第一，作为仿真基准，某些真实物理细节（接触摩擦、柔性物体、流体等）未被完全建模，因此 KinDER 主要测试「中粒度」推理；第二，为控制范围，作者排除了随机性、部分可观察性、多机器人协作等维度；第三，13 个基线虽具代表性但仍有大量替代方法（如 SayCan、Code-as-Policies、RT-2、OpenVLA 等更先进 VLA）未被纳入。独立观察到的额外限制包括：(1) 在 SweepIntoDrawer3D 上 VLA 的 SR 仅 0.00，但子任务成功率（表 III）显示它开抽屉成功 0.01、抓扫帚 0.00，说明长视野组合任务对所有当前方法都是开放难题；(2) Bilevel Planning 在 StickButton2D 上按钮数从 1 增到 10 时规划时间爆炸到 38.39s，实用价值受限；(3) DP 与 DPES 表现接近且后者优势微弱，暗示当前 IL 方法难以从 object-centric state 中提取额外信号。
独立分析的弱点
独立分析四点核心弱点并给出改进方向。其一，object-centric state 依赖完美感知，但真机实验中需要 overhead camera + ViLD [105] 检测 2D 包围盒并假设 z 轴固定，这在遮挡或姿态歧义时会失败；改进方向是用 6D pose 估计（如 FoundationPose）或 RGB-D 点云重建物体真实位姿。其二，BP 在按钮数 5+ 时规划时间爆炸至 28-38s，根本原因是 best-first search 的分支因子随对象数多项式增长；改进方向是引入 learned heuristic 或 neurosymbolic skill learning（如 bilevel learning [96]）来剪枝。其三，VLM 在已有结构化 state 时几乎无法额外利用 RGB（VLMPlan ≈ LLMPlan），但 VLA π0.5 凭借预训练反而在 DynPushPullHook2D 上一枝独秀，暴露了「图像→动作」端到端预训练与「图像→符号计划」解耦预训练在物理推理能力上的鸿沟；改进方向是用 CoT-VLA [7] 或 VLA-R1 [8] 显式注入 chain-of-thought 物理推理。其四，所有 RL 基线在稀疏奖励长视野任务上几乎全败（PPO 在 SweepIntoDrawer3D 上 0.00），说明标准 on/off-policy 算法缺乏归纳偏置；改进方向是结合 BP 提供的 skill hierarchy 做 hierarchical RL，或用 GSC 的 skill chaining 做 curriculum。
未来方向
作者提出三个未来方向：(1) 维护并扩展 KinDER 开源生态，鼓励社区补充更多演示与新基线；(2) 把 KinDER 作为 real-to-sim-to-real 的标准测试床，开发更鲁棒的感知 pipeline 桥接 sim 与 real；(3) 设计/学习层次化技能，使 hierarchical TAMP 更易扩展。基于成果可延伸的方向包括：用 KinDER 评测新一代 VLA（如 OpenVLA、RT-2、GR00T）作为长期 benchmark 跟踪；将五种核心挑战作为单元测试注入多模态大模型训练数据，构建「物理推理版 MMLU」；把 KinDERBench 与 LIBERO、ManiSkill 等组合形成超大规模 benchmark union；以及探索 LLM 作为高层 planner 调用 KinDER 低层技能的双层混合架构。
复现评估
KinDER 的可复现性非常优秀：所有代码、25 个环境、13 个基线实现、≥100 条演示、依赖配置都开源在 https://prpl-group.com/kinder-site/；遵循严格软件工程标准（CI、linting、type checking、近 400 个单元测试）；Python 3.10-3.12 在 Ubuntu 20.04/22.04/24.04、macOS 12-15、Windows 10 上测试通过；动态环境用 Pymunk（2D）和 MuJoCo（3D）等成熟物理引擎；评估统一 5 随机种子 × 50 episodes 协议。复现难度低-中等：跑通单个环境与基线只需标准 GPU 与 PyTorch/MuJoCo license，但完整 13×8 实验矩阵需要相当算力（作者感谢 Google TPU Research Cloud 提供 Cloud TPU），且 GPT-5.2 API 调用会产生额外费用。需特别注意：(1) MuJoCo 许可与版本；(2) π0.5 微调依赖 OpenPI 仓库与相当显存的 GPU（建议 ≥24GB）；(3) 远程操作演示需要 PS5 控制器、iPhone 或 Meta Quest 3S 等硬件。
论文图表
五个 3D 渲染场景示例，分别对应五种核心物理推理挑战：把物体摆放到碗里的指定位置（基本空间关系）、把多个小物体扫进抽屉（非抓取多物体操控）、把不同数量物体装入有限空间（组合几何约束）、用盒子搬运物体（工具使用）、把物体越过屏障投掷（动力学约束）。
把论文抽象的「五类挑战」用具体 3D 场景具象化，是理解 KinDER 选题逻辑的最佳视觉锚点。
对比 Obstruction2D（运动学版本，机器人必须先 pick-and-place 障碍物才能放下目标块）与 DynObstruction2D（动力学版本，机器人可以「捷径」边抓目标边推开障碍物），说明同一抽象问题在运动学/动力学版本下需要本质不同的物理推理。
揭示 KinDER 设计哲学——同一任务在 kinematic vs dynamic 下需要根本不同解法，是理解 object-centric state + 物理引擎分层设计的关键例子。
核心结果表，展示 13 个基线在 8 个代表性环境上的成功率 SR、平均累积奖励 Rwd、单 episode 推理时间 Inf-Time 三指标，每个环境独立成块共四类难度层级。
全文最重要的定量结果，决定读者对各范式相对强弱的判断，所有对比结论都从此表得出。
SweepIntoDrawer3D 的子任务分解（开抽屉 0.50-0.87、抓扫帚 0.00-0.74、扫部分物体、扫全部物体）上的 DPES/DP/VLA 成功率，揭示 VLA 在开抽屉子任务上仅 0.01 而 DP 达 0.87，说明子任务粒度对方法诊断很重要。
提供 long-horizon 失败归因的关键诊断工具，理解为何整体 SR 低，能定位瓶颈子任务。
DP 与 VLA 在 DynObstruction2D 上以 1 障碍训练、测试 0/1/2/3 障碍的 OOD 泛化表现：VLA 在 0 障碍时仍保持 0.52 SR（训练时 0.50），DP 在 0 障碍 0.35 而 3 障碍降至 0.26，VLA 整体更稳健。
展示 IL 方法的 OOD 泛化能力差异，是评估「学到的策略是否真理解物理而非记忆」的关键证据。
Bilevel Planning 在 StickButton2D 上随按钮数从 1 增到 10 的 SR 与规划时间变化：SR 从 0.99 跌至 0.00，规划时间从 1.51s 升到 38.39s，定量展示 TAMP 的组合爆炸弱点。
为「TAMP 何时不够用」提供清晰的失败模式，提示读者在复杂任务上需要 learned heuristic 或 hierarchical 方法。