面向潜在世界属性的涌现式组合通信 Emergent Compositional Communication for Latent World Properties
多智能体在通信压力下自发形成可分解的潜在物理属性离散编码
前置知识
涌现通信(Emergent Communication)
多智能体在只受任务奖励驱动、没有任何语言监督的情况下,通过交互自发发展出可通信的符号协议。核心问题是这种涌现协议是否表现出与人类语言类似的组合性——符号的意义是否由其组成部分的意义系统决定。
本文核心框架就是多智能体涌现通信设置,理解其与有监督语言学习的关键区别——没有任何符号标签——才能把握为什么这是个非平凡的学习问题。
Gumbel-Softmax 离散瓶颈
一种可微的离散采样技术,前向从类别分布采样,反向用 softmax 近似梯度,使离散通道端到端可训练。本文 K 个独立头组成因式分解消息,温度从 τ=2.0 退火到 0.5,迫使智能体把信息压缩进离散符号。
发送者产生 K 个独立位置、词表 V 的离散消息正是靠 Gumbel-Softmax 实现,这是物理可解释符号的产生机制,也是因式分解消息结构的技术基础。
迭代学习与文化传递(Iterated Learning)
借鉴人类语言演化的文化传递:每隔若干周期重置接收者,迫使发送者发展出对新接收者可学习的协议。每 40 epoch 重置一次接收者,400 epoch 共 9 代,结合种群压力形成可学习的、普适可解码的语言。
这是驱动组合性涌现的关键压力源。没有迭代学习时只有 20% 种子发展出组合协议,LazImpa 替代方案(懒说者+急听者)只能得到 0%。
位次解耦 PosDis(Positional Disentanglement)
Chaabouni 2020 提出的组合性度量,衡量每个消息位置编码单一属性的程度:PosDis 等于每位置最大 MI 与次大 MI 之差除以最大 MI(加 ε 防零除)。本文用 0.4 为阈值,值越接近 1 表示位次-属性越解耦。
PosDis 是核心评估指标,所有'涌现是否产生组合协议'的论断都依赖它。它将模糊的'组合性'概念转化为可计算的互信息差异。
DINOv2 与 V-JEPA 2 视觉基础模型
DINOv2 是基于图像的自监督 ViT,逐帧独立提取空间 CLS token(ViT-S/14 为 22M,ViT-L/14 为 304M);V-JEPA 2 是基于视频的联合嵌入预测架构,处理时空 token,ViT-L/16 为 304M,经超 1 百万小时视频预训练。
本文 2×2 因子实验的关键变量,正是这两种骨干在'通信能力'上的差异揭示了感知先验对通信内容的决定性约束。
JEPA 与 LeCun 认知架构
JEPA(Joint Embedding Predictive Architecture)是 LeCun 2022 提出的世界模型架构,用联合嵌入空间中的预测代替像素重建。架构中显式包含一个可选的离散潜变量 z,其熵被最小化以强制可预测结构。
本文将 Gumbel-Softmax 离散瓶颈定位为 LeCun 架构中离散潜变量 z 的实证实例,把涌现通信与主流世界模型架构联系起来。
研究动机
人类能通过短暂观察推断弹性、摩擦、阻尼等'看不见'的物理属性并用组合语言描述(例如'这个球又弹又滑'),但现有的两类研究都没解决这个问题。涌现通信领域一直聚焦于指代游戏中可直接观察的属性——颜色、形状、位置等(Chaabouni 2020, Ren 2020),从未涉及需要从时序动力学推断的潜在物理量;另一方面,基于视频的物理理解研究(Wu 2017, Piloto 2022)都用连续表示做预测,无法形成可分解、可解释、可被选择性查询的离散语言。一个关键问题是:在没有物理量监督、没有消息结构监督、只靠任务奖励的纯通信压力下,智能体能不能自发形成位置-属性对齐的组合协议?以往的结论是混沌的——2 智能体有时能、有时不能(54% 种子),机制未被澄清;此外,感知-通信接口本身从未被定量刻画:冻结的 DINOv2 图像特征是否足够?是否必须用视频原生特征如 V-JEPA 2?这种'感知基础决定可通信内容'的边界完全没有 2×2 因子实验支撑。
本文的目标是本文的具体目标有四:(1) 在合成物理环境(球在斜面、球碰撞)中证明 2-4 个独立智能体在 Gumbel-Softmax 离散瓶颈 + 迭代学习 + 种群压力下,能自发形成位置-属性解耦的组合协议,且 4 智能体时 100% 种子都达成 PosDis = 0.999;(2) 通过 2×2 因子设计(两个骨干 DINOv2/V-JEPA 2 × 两个数据集 斜面/碰撞)定量刻画感知先验如何决定可通信内容,并用 scale-matched 和 frame-matched 控制排除容量和时序覆盖的混淆;(3) 验证协议的可重用性——冻结的组合发送者能否通过因果干预(归零某位置)支持跨属性推理(93.8% 准确率)和动作条件规划(91.5% 准确率,反事实速度响应 $r=0.780$);(4) 把整个机制迁移到真实摄像数据 Physics 101 上,证明 4 智能体在 90% 种子中复现组合涌现,因果断言 ($d=1.87$, $p=0.022$)。
与已有工作不同的是，本文的独特切入角度在于把'涌现通信'、'直觉物理'和'JEPA 风格世界模型评估'三个原本独立的领域首次定量桥接起来,核心假设是 LeCun (2022) 架构中那个'可选的离散潜变量 $z$'实际上在涌现通信压力下可被自然实例化。具体地,本文与已有方法在三个层面有本质区别。第一,与 Ren 2020、Chaabouni 2020 等'指代游戏'工作不同,本文通信目标是从时序动力学推断的潜在物理量,且通信内容与可视化静态特征(颜色、形状)解耦;第二,与 Garrido 2025 等线性探测不同,线性探测只能问'信息在不在',通信瓶颈把信息强制压缩为离散、可寻址、可因果干预的接口——本文证明这种接口在 V-JEPA 2 碰撞任务上保留 94% 原始特征预测力(88.7% vs 94.6%)却换得 25× 压缩和 100% 位置-属性可寻址性;第三,与'暴力 fine-tune 骨干'的思路相反,本文实验性地证明 E2E 微调 DINOv2 反而退化通信(67.8% vs 78.0%, $p=0.0002$, $d=1.35$),即冻结感知+离散瓶颈才是正确接口设计。最后,本文首次用 4-智能体、scale-matched、frame-matched 三重控制,严格分离'多智能体结构'与'时序覆盖/带宽'这两个常被混淆的变量。
核心方法
本文整体思路是把'涌现组合通信'当作一种结构诱导机制:让多个智能体独立观察同一物理过程的不同视角,各自通过离散的瓶颈压缩信息,接收者综合消息回答'哪个输入在某属性上更高'。直觉上,这种'独立观察-离散压缩-任务驱动'的设置如果配上正确的归纳偏置,会迫使每个消息位置专门编码一个独立的物理属性——这正是 LeCun (2022) 认知架构中离散潜变量 $z$ 应有的样子。技术路线分为三步:第一,设计两个互补的物理数据集——斜面(弹性+摩擦,两个属性都可从单帧或时序中恢复)和碰撞(质量比+恢复系数,必须从时序速度差推断),用 5×5 拉丁方设计保留每个属性值在训练中出现的 25 个组合中 5 个作 holdout;第二,搭建多智能体通信骨架——$N$ 个冻结的 DINOv2/V-JEPA 2 编码器对各自输入产生时空特征,经时序 1D 卷积池化到 128 维,再通过 $K$ 个独立的 Gumbel-Softmax 头产生 $V=5$ 的离散符号,接收者将两路消息拼接后过共享 MLP 输出每个属性的二分类 BCE 损失;第三,用种群迭代学习训练(3 接收者种群,每 40 epoch 同时重置),配合熵正则(防止词表坍缩)和温度退火 $\tau: 2.0 \to 0.5$。评估组合性用 PosDis(位次解耦)、TopSim(地形相似度)、BosDis(符号袋解耦)三个互补指标,holdout 准确率衡量泛化。
本文核心创新在于把'多智能体独立观察 + 离散瓶颈 + 迭代学习'三件套作为组合性涌现的最小充分条件,首次实证其产生可寻址、可重用的离散物理接口。区别于已有方法:(1) 与 LazImpa(Rita 2020 懒说者+急听者)等'效率压力'机制不同,本文证明仅有效率压力(无文化传递)得到 0% 组合性,文化传递(每 40 epoch 重置接收者)是不可替代的;(2) 与'bandwidth-driven'解释不同,本文用 matched-bandwidth 控制证明 4×5 单发送者(625 种消息)只得到 35% 组合性,远差于 4-智能体 2×5 (100%),所以关键不是容量而是'独立部分观察者'的结构压力;(3) 与'图像特征够用'的常识不同,本文 2×2 因子实验证明感知先验决定可通信内容边界:静态属性任务(斜面) DINOv2 胜(98.3% vs 95.1%, $d=1.24$),纯动力学任务(碰撞) V-JEPA 2 胜(87.4% vs 77.7%, $d=2.74$),且这种差距不能用规模(304M ViT-L)或时序覆盖(48 帧匹配)解释——V-JEPA 2 的视频原生预训练目标本身是关键。
方法步骤详情
完整流程分四步。步骤一(数据与环境): 用 Kubric + PyBullet 生成两类物理场景。斜面: 球从 70° 斜面滑下,在平面弹跳,128×128 RGB,24 帧 12 fps,弹性和摩擦在 5×5 网格(0.1/0.3/0.5/0.7/0.9)上独立采样,每格 12 个场景共 300 个,颜色、光照、起始位置随机化。碰撞: 两个视觉完全相同的球碰撞,256×256 RGB,48 帧 24 fps,质量比 $m_B/m_A \in \{1,2,3,4,5\}$、恢复系数同 5 值,600 个场景,5×5 网格每格 24 个,必须从碰撞后速度差推断。步骤二(特征提取): 斜面用 DINOv2 ViT-S/14 冻结 CLS token 从 8 等距帧得 (8, 384) 时序特征;碰撞做因子实验——条件 A 用 DINOv2 ViT-S/14 从 24 帧取 (24, 384) 特征,条件 B 用 V-JEPA 2 ViT-L/16 联合处理 48 帧输出 6144 时空 token 重塑为 (24, 256, 1024) 再空间平均得 (24, 1024)。两个条件下游相同: 1D 卷积+自适应平均池化到 128 维场景表示。步骤三(消息与接收): 发送者 $S_A$/$S_B$ 各自把 128 维向量通过 $K=2$ 个独立 Gumbel-Softmax 头产生 $V=5$ 的 2 位置消息 $m \in \{0,1\}^{2 \times 5}$,词表退火 $\tau: 2.0 \to 0.5$;接收者把两路 one-hot 消息拼接(共 20 维)过 MLP ($20 \to 128 \to 64$, ReLU) 产生每个属性的 sigmoid 输出,损失是各属性 BCE 之和。步骤四(训练): 三阶段。首先 oracle 预训练 100 epoch(同一编码器直接对比两输入,无通信)用以初始化发送者权重;其次种群迭代学习 400 epoch,3 个接收者种群,每 40 epoch 同时重置,产生 9 代接收者,学习率发送 $10^{-3}$、接收 $3 \times 10^{-3}$ 不对称以保证协议稳定;同时用 $-0.03 \cdot H$ 熵正则(每头符号熵低于 $0.1 \log V$ 时激活)防词表坍缩,梯度裁剪 1.0 稳定 Gumbel-Softmax。评估时: holdout 是 5 个未训练的属性组合,组合种子为 PosDis > 0.4,跨域实验用相同架构换输入编码器。
技术新颖性
本文技术新颖性体现在五个层面。第一,首次在'潜在物理量通信'而非'可视属性指代'上系统研究涌现组合性,填补涌现通信与直觉物理两大领域的交叉空白。第二,首次用 2×2 因子 + scale-matched (DINOv2 ViT-L/14 304M 对 V-JEPA 2 304M) + frame-matched (DINOv2 48 帧对 V-JEPA 2 48 帧) 三重控制定量证明'视频原生预训练目标'是碰撞任务的关键而非容量或时序覆盖,V-JEPA 2 优势在 frame-matched 控制下 Cohen $d$ 仍达 6.53。第三,首次实证 4-智能体在 80 个种子上 100% 达成 PosDis = 0.999, holdout 准确率从 2 智能体 79.3% 跃升到 98.3% ± 1.6%,并通过 random-frames 控制分离出'多智能体结构'而非'时序专业化'是真正的驱动力。第四,跨属性因果干预(归零位置)证明组合协议是真正可寻址的接口——相关位置归零导致 -14.7% / -15.2% 准确率下降、不相关位置仅 -0.4% / -2.9%,这种'外科手术式'解构在连续特征中不可能实现。第五,首次把 Gumbel-Softmax 离散瓶颈定位为 LeCun (2022) 认知架构中离散潜变量 $z$ 的实证实例,并用连续瓶颈消融证明离散性带来更锐利的位次-属性对齐(选择性 0.807 vs 0.722) 和训练稳定性(0/20 vs 5/20 坍缩)。
实验结果
实验分 5 个模块逐层展开。模块 1(涌现组合性): 80 种子 2-智能体 2×5 配置在斜面任务上 54% 达 PosDis > 0.4,组合种子 holdout 准确率 79.3% ± 5.2% 显著优于整体种子 75.9% ± 6.1% ($p=0.011$, $d=0.59$);扩到 4 智能体 80 种子在斜面任务 100% 达 PosDis = 0.999, holdout 跃升到 98.3% ± 1.6%, 3 智能体已 100% 达 PosDis = 0.998, 完成从随机到可靠的相变。MI 矩阵显示组合种子位置 0 编码弹性(MI = 1.08)位置 1 编码摩擦(MI = 1.32),交叉项 0.13-0.24。模块 2(因果证据): 冻结的组合发送者在跨属性推理任务('A 球的弹性是否大于 B 球的摩擦?')上达 93.8% ± 0.7% 准确率,优于新鲜训练的 2×5 (92.2% ± 2.4%) 和 1×25 holistic (87.5% ± 9.5%);归零相关位置导致 14.7%/15.2% 下降,归零无关位置仅 0.4%/2.9%,证明协议是真正可寻址的接口。模块 3(感知决定可通信内容): 2×2 因子结果(斜面 × 碰撞 × DINOv2/V-JEPA 2)在 2 智能体时无显著差异($p > 0.1$ 两数据集),4 智能体时差距显化:斜面 DINOv2 98.3% vs V-JEPA 2 95.1%($d=1.24$, $p=0.001$),碰撞 V-JEPA 2 87.4% vs DINOv2 77.7%($d=2.74$, $p<0.0001$)。Scale-matched 控制(DINOv2 ViT-L/14 304M) 仍只 74.6%($d=3.37$ vs V-JEPA 2 304M, $p<0.0001$),frame-matched 控制(DINOv2 48 帧) 更糟 71.6%($d=6.53$); 4 智能体带宽 99.3% 提取 V-JEPA 2 碰撞 oracle 上限 88.0%, 证明瓶颈不创造信息但完整压缩已有信息。模块 4(跨域泛化): 同一通信架构在 spring-mass (PosDis 0.946, 93.8%)、斜面 (PosDis 0.688, 88.4%)、抽象场景 (PosDis 0.582, 50.4%) 和视觉属性 (PosDis 0.500, 75.9%) 四域都产生组合协议, 专业化比例与每域'信息分离度'正相关($r=0.964$ 视觉 6 属性, $r=0.980$ 物理 3 属性)。模块 5(真实视频): Physics 101 spring 场景 2-智能体 V-JEPA 2 达 85.6% ± 5.8% mass 比较准确率(最佳种子 92.8%), DINOv2 静态基线 72.9% 表明时序动力学贡献 +11.2%; 4-智能体 mass+restitution 任务在 fall 场景 90% 种子(9/10)达 PosDis > 0.4(均值 0.483),复现合成数据中的多智能体相变;真实视频上的因果干预显示归零 mass-相关智能体导致 -7.8pp ± 3.7pp 准确率下降,归零另一智能体仅 -2.1pp ± 2.3pp,选择性差距 5.7pp($p=0.022$, $d=1.87$)。冻结消息用于结果预测任务达 88.7%,保留 V-JEPA 2 原始 1024 维特征 94.6% 性能的 94%,即 25× 压缩保留 94% 性能,动作条件版本用新速度查询 91.5% 准确率、反事实速度响应 $r=0.780$($p<0.001$)、100% 速度单调解。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 斜面 2 属性通信(2 智能体 2×5, 80 种子) | holdout 准确率(组合种子) | 79.3% ± 5.2% | 整体种子: 75.9% ± 6.1% | +3.4pp (p=0.011, d=0.59) |
| 斜面 2 属性通信(4 智能体 2×5, 80 种子) | holdout 准确率 | 98.3% ± 1.6% | 2 智能体 2×5: 79.3% ± 5.2% | +19.0pp (100% 组合涌现) |
| 碰撞 2 属性 4 智能体(感知因子实验) | holdout 准确率 V-JEPA 2 vs DINOv2 ViT-S | 87.4% ± 3.1% | DINOv2 ViT-S: 77.7% ± 3.9% | +9.7pp (p<0.0001, d=2.74) |
| 碰撞任务 scale-matched 控制 | holdout 准确率 | V-JEPA 2 ViT-L: 87.4% | DINOv2 ViT-L (304M, 匹配): 74.6% ± 4.3% | +12.8pp (d=3.37, 排除容量解释) |
| 碰撞任务 frame-matched 控制 | holdout 准确率 | V-JEPA 2 (48 帧联合): 87.4% | DINOv2 ViT-S 48 帧独立: 71.6% ± 3.6% | +15.8pp (d=6.53, 排除时序覆盖解释) |
| 斜面 4 智能体感知因子 | holdout 准确率 DINOv2 vs V-JEPA 2 | DINOv2: 98.3% ± 1.6% | V-JEPA 2: 95.1% ± 3.3% | +3.2pp (p=0.001, d=1.24, 静态可读物理) |
| 跨属性推理(冻结组合发送者) | holdout 准确率 | 93.8% ± 0.7% | 新鲜 1×25 holistic: 87.5% ± 9.5% | +6.3pp (协议可重用为接口) |
| 结果预测下游任务(冻结消息) | holdout 准确率 | V-JEPA 2 离散消息 40 维: 88.7% ± 0.5% | DINOv2 消息: 78.5% ± 1.3% | +10.2pp (d=10.50, 25× 压缩保留 94% 信息) |
| 真实视频 Physics 101 spring mass 比较 | holdout 准确率 | V-JEPA 2 2 智能体: 85.6% ± 5.8% | DINOv2 静态基线: 72.9% | +12.7pp (时序动力学贡献 +11.2%) |
| 真实视频 mass+restitution 4 智能体 | 组合涌现率(PosDis > 0.4) | 9/10 (90%) | 1 智能体: 2/10 (20%) | 真实视频复现多智能体相变 |
局限与改进
作者坦承三大局限并给出我的额外观察。局限一(场景规模): 主要合成实验仅 300-600 场景、单球或配对球、无背景杂乱,虽然 Physics 101 验证了真实摄像数据但仍是受控实验室环境(均匀背景);CoPhy CollisionCF 零样本迁移上冻结发送者产生 6/8 位置常数化、消息坍缩(67.6% vs 50% chance),表明学到的视觉映射有域偏。局限二(感知冻结): 全文依赖冻结的预训练特征,本文证明通信压力能'结构化'已有感知但不能驱动感知学习;E2E 微调 DINOv2 反而退化通信(67.8% vs 78.0%, $p=0.0002$, $d=1.35$),说明'瓶颈+冻结'是当前最优点但也限制了联合学习。局限三(随机性): 2-智能体组合涌现仅 54%, 虽 4 智能体 100% 解决但这本身是依赖架构的因素,小规模 2 智能体的随机性暗示真实部署中可能需要多智能体来保证可靠性。此外,我观察到的小问题:(a) 6 属性的带宽-提取性相关 $r=0.964$ 基于 $n=6$ 小样本,统计可信度有限;(b) 真实视频 spring mass 比较 4 智能体反而低于 2 智能体(83.4% vs 85.6%),可能反映任务噪声或后训练数据集偏小;(c) 真实视频 PosDis 0.483 远低于合成 0.999,可能因 restitution 标签从自动弹跳高度追踪得出噪声大;(d) 所有'涌现'结论都是统计性的(如 80 种子分布),没有单种子确定性证据,任务依赖性较强。
独立分析的弱点
独立分析后本文有四处可改进的弱点。弱点一(智能体数量 4 是'必要充分'还是'只是足够'): 论文用 3 智能体 20 种子得到 100% 涌现,但只在 1→2→3→4 四个点采样,没有连续扫描确定相变点。改进方向是连续改变 $N$ 智能体数(尤其 $N=2.5$ 即非整数切分等),精确定位多智能体压力的阈值。弱点二(协议重用深度不够): 跨属性任务 93.8% 准确率是分类任务,但没有测试消息接口在'未知属性数'或'新属性'上的零样本扩展能力——若加入第三个属性'密度'会怎样?协议会灾难性遗忘还是分配第三个位置?需要做属性-增量学习实验。弱点三(因果干预粒度受限): 论文归零整个位置,而真实规划中可能需要部分削弱某属性(soft mask)或只在特定条件下查询(条件性访问),更细的查询原语可让接口更适合嵌入决策系统。改进方向是引入注意力门控替代硬归零。弱点四(数据集与领域有限): 视觉属性用 CIFAR-100 6 连续属性,合成物理用 2-3 属性,真实视频仅 spring 和 fall 两个 Physics 101 场景;缺乏对'长程时序依赖'、'多物体交互'、'非刚体变形'等更复杂物理的测试,这些场景对通信结构的可扩展性是严峻考验。改进方向是引入更复杂的物理引擎(如 MuJoCo 的铰接物体)和更广的视频域( Something-Something、Epic-Kitchens 等)。
未来方向
作者明确指出四个未来方向,结合成果可延伸出更多。第一,作者方向: 把涌现组合通信扩展为可扩展的世界模型评估协议——通信框架测的是'哪些属性变得可结构化',而线性探测只测'信息在不在',两者互补,可作为 JEPA 类模型的标准化诊断。第二,作者方向: 把离散消息接口嵌入 V-JEPA 2-AC 风格的下游规划器,组合协议提供可寻址的物理描述,规划器选择性查询相关位置避免处理高维特征向量。第三,作者方向: 把通信模块迁移到真实机器人多智能体协作(如两机械臂协作装配),让机器人通过'学习'出的协议描述物体属性并协作;LeCun (2022) 提出的 V-JEPA 2-AC 已经在视频预训练上展示零样本机器人规划能力,组合接口可能提供更紧凑、可解释的中间表征。第四,作者方向: 研究在无属性值监督时(纯像素视频,无 holdout oracle)组合涌现是否仍发生,以及可扩展到数十个属性的场景。基于本文可延伸的:(a) 把 PosDis 0.4 阈值换成更细粒度的 PosDis-aware 训练损失,显式鼓励解耦而非依赖涌现;(b) 把 Gumbel-Softmax 替换为更现代的离散潜变量方法(VQ-VAE-2, FSQ)研究组合涌现的离散性贡献;(c) 把 2-智能体 54% 涌现的随机性视为贝叶斯不确定性的指标,推断哪种归纳偏置能稳定这个相变。
复现评估
从复现角度看,作者明确开源了完整代码仓库(GitHub: TomekKaszynski/emergent-physics-comm,见论文首页),这显著提升可复现性。数据上,合成场景生成用 Kubric + PyBullet 标准化开源工具,Physics 101 公开可用;斜面数据集 300 场景、碰撞 600 场景、每域 100-600 场景规模较小,可在单 GPU 上数天内完成训练。算力上,作者使用冻结预训练骨干(DINOv2/V-JEPA 2)+ 轻量级 MLP 通信头,每个种子 4-智能体配置在单 NVIDIA GPU 上训练 400 epoch 仅需数小时,远低于多模态大模型训练成本;完整论文 80+ 种子主实验可在一周内完成。算法细节充分: Gumbel-Softmax 温度退火 $\tau: 2.0 \to 0.5$、迭代学习每 40 epoch 重置、3 接收者种群、发送 $10^{-3}$ 接收 $3 \times 10^{-3}$ 异步学习率、熵正则 $-0.03 \cdot H$、梯度裁剪 1.0、oracle 预训练 100 epoch 初始化等超参都明确给出。复现难点在于:(1) V-JEPA 2 权重需从 Meta 官方仓库下载,使用门槛中等;(2) 5×5 拉丁方 holdout 划分的具体种子和场景索引需要严格按论文复现,否则 holdout 准确率不可比;(3) 真实视频因果干预的 7.8pp 差距基于 10 种子,小样本统计可能在不同硬件上波动较大。整体可复现性评级高(开源代码 + 公开数据 + 明确超参 + 适中算力)。
论文图表
