← 返回 2026-03-17

黎曼运动生成:基于黎曼流匹配的人类运动表示与生成统一框架 Riemannian Motion Generation: A Unified Framework for Human Motion Representation and Generation via Riemannian Flow Matching

Fangran Miao, Jian Huang, Ting Li 📅 2026-03-16 👍 11 2026-07-13 08:36
几何表示 文本生成运动 流匹配 运动生成 黎曼流形

提出基于黎曼几何的运动生成框架,在流形上建模并通过流匹配学习动力学

前置知识

黎曼流形

黎曼流形是一个光滑的流形,在每个切空间上都配备了黎曼度量 $g$,这个度量定义了切向量之间的内积。对于流形上的任意点 $x$,其切空间 $T_xM$ 包含了该点的所有可能方向。黎曼度量允许我们在流形上测量距离、角度和曲线长度。在本文中,人类运动的各个因子被建模在不同的黎曼流形上:全局平移在欧几里得空间 $\mathbb{R}^3$,旋转在单位四元数超球面 $S^3$,局部姿态在预形状空间 $S_J^3$。黎曼流形上的测地线是两点之间的最短路径,可以通过指数映射和映射来计算。为了避免LaTeX转义问题,这里用文字描述:指数映射Exp_x将切向量从切空间T_xM映射到流形M,对数映射Log_x将流形上的点映射回切空间。

理解黎曼流形是本文的基础,因为整个RMG框架的核心思想是将运动数据表示在低维的黎曼流形上,而不是高维的欧几里得环境空间。论文中的所有关键操作——测地线插值、切空间投影、流形保持ODE积分——都依赖于黎曼几何的概念。只有理解了这些概念,才能明白为什么要用指数映射和对数映射,以及它们如何确保生成的运动始终保持在有效的流形上。

流匹配

流匹配是一种生成建模方法,学习一个时间相关的速度场v_theta(x_t, t),将源分布p_0传输到目标分布p_1。训练目标是最小化预测速度与目标条件速度之间的均方误差。在欧几里得空间中,目标速度通常由线性插值诱导,具有闭式解。在黎曼流形上,流匹配将欧几里得线性路径替换为测地线,目标速度在对应的切空间中定义。当流形是欧几里得空间时,测地线退化为线性插值,因此黎曼流匹配是欧几里得情况的严格推广。在推理时,从p_0采样x_0,然后通过积分学习的ODE生成样本:dx_t/dt = Pi_{T_{x_t}M} v_theta(x_t, t)。

流匹配是RMG框架的核心生成动力学方法。理解流匹配的工作原理,才能明白论文中如何通过学习速度场来生成运动样本。黎曼流匹配的引入是本文的关键创新之一,它将传统的欧几里得流匹配推广到黎曼流形,使得生成过程始终保持在有效的运动流形上。只有理解了流匹配的训练目标和推理过程,才能理解为什么RMG能够生成几何一致的运动序列。

单位四元数和超球面

单位四元数是一种表示三维旋转的有效方法。一个单位四元数满足范数为1,因此所有单位四元数构成超球面S^3。与连续6D旋转表示相比,单位四元数没有冗余,能够无歧义地表示SO(3)旋转群。在S^3上,两点之间的测地线可以通过球面插值计算:gamma(t) = sin((1-t)theta)/sin(theta) * x_0 + sin(t*theta)/sin(theta) * x_1,其中theta = arccos(内积x_0, x_1)。由于q和-q表示相同的旋转,本文将四元数限制在S^3的上半球(q_0 > 0)以避免歧义。

理解单位四元数和超球面对于理解RMG的旋转因子表示至关重要。论文将全局方向和每关节旋转都表示在S^3上,这使得旋转表示具有自然的几何结构,避免了欧几里得表示中的冗余和约束问题。超球面上的测地线插值提供了平滑的旋转插值,这对于生成连续、自然的运动序列非常重要。理解四元数在S^3上的几何性质,有助于理解为什么RMG的旋转表示比其他方法更稳定、更有效。

预形状空间

预形状空间S_J^3用于建模人体骨架的相对关节配置。给定J个关节在三维空间中的坐标P,预形状通过中心化和Frobenius归一化得到。这个变换使得预形状对全局平移和尺度变化不变,只捕获帧内骨架的相对配置。本质上,预形状空间可以被视为高维超球面,因此其测地线可以以与超球面相同的方式计算。预形状空间的维度是3J - 4(中心化减去3个自由度,归一化减去1个自由度)。

预形状空间是论文中运动表示的潜在因子之一,虽然在最终选择中被省略。理解预形状空间的几何性质,有助于理解为什么作者最终选择了更紧凑的T+R表示。消融实验表明,预形状因子在运动质量中的作用不如旋转因子,但理解其几何结构对于全面理解论文的运动表示分解思路仍然重要。此外,预形状空间的概念在其他形状分析领域也有广泛应用,理解它有助于拓展对黎曼几何应用的理解。

乘积流形

乘积流形是将多个流形组合成一个更大流形的方法。给定流形M_1, M_2, ..., M_k,它们的乘积也是一个流形。乘积流形上的点由各个因子流形上的点的元组组成。在乘积流形上,切空间、指数映射和对数映射都是逐因子应用的。例如,指数映射在乘积流形上的应用是对每个因子分别应用指数映射。在本文中,运动流形被设计为多个因子的乘积流形,其中每个因子对应运动的一个组成部分。

理解乘积流形是理解RMG运动表示的关键。论文将运动分解为多个因子,每个因子在其自然的黎曼流形上表示,然后通过乘积流形将这些因子组合起来。这种分解使得运动表示既紧凑又几何一致。理解乘积流形如何工作,有助于理解为什么RMG可以同时处理不同类型的运动因子(平移、旋转、姿态),以及如何在训练和推理中逐因子应用黎曼几何操作。

研究动机

现有的人类运动生成方法主要依赖欧几里得空间中的冗余表示。对于一个有J个关节的骨架,一个关节姿态的内在自由度约为3J,但常见的方法将多个相关视图的表示拼接起来,占据了更高维的环境空间。例如,HumanML3D格式占据了12J - 1维,MotionStreamer格式占据了12J + 8维,而DART格式占据了12J + 12维。这种冗余表示导致模型在高维欧几里得空间中训练,而物理上有效的运动位于或接近一个更低维的流形,其内在维度远小于环境空间维度。这种维度不匹配导致优化困难、采样稳定性差,并且只有在生成后通过约束或后处理来隐式强制有效性。在HumanML3D数据集上,尽管之前的最佳方法MoMask达到了0.045的FID,但许多方法在增加引导比例时会出现质量下降,表明了表示方法的不稳定性。

本文的目标是本文的目标是提出一个几何感知的运动表示和生成框架,将运动建模在其内在的低维黎曼流形上,而不是高维的欧几里得环境空间。具体而言,作者希望设计一个紧凑的流形感知参数化,以及一个几何一致的训练和推理流水线,使得生成的运动始终保持在有效的流形上。通过将运动的几何结构直接嵌入到表示和生成动力学中,而不是仅在生成后施加几何约束,作者希望提高运动生成的质量、稳定性和可扩展性。在HumanML3D和MotionMillion等数据集上,目标是超越现有的强基线方法,在质量、对齐和多样性等指标上取得平衡的提升。

与已有工作不同的是,本文的独特切入点是将几何感知作为一个核心设计原则,将运动表示和生成动力学作为一个整体来开发,而不是分开处理。大多数现有工作将注意力集中在模型架构上,如使用VAE、GAN、扩散模型或自回归框架,而对运动表示的几何结构缺乏系统性的关注。本文的核心洞察是,人类运动的明显复杂性很大程度上不是来自任意的高维变化,而是来自几个低维因子的组合,每个因子都有自己的自然几何结构。一旦这个分解被明确化,几何一致性就不再需要在生成后仅通过约束来施加,而是可以直接嵌入到表示和生成动力学中。这个几何视角自然地引出了一个公式,其中表示和模型设计是共同发展的,从而实现了紧凑的流形表示和基于测地线插值、切空间监督和流形保持ODE积分的几何一致流水线。

核心方法

RMG方法的核心思想是将人类运动分解为几个基本的几何因子,并将每个因子建模在其自然的黎曼流形上,然后在这些因子的乘积流形上通过黎曼流匹配学习生成动力学。从直觉上讲,人类运动不是任意的,而是遵循强烈的几何结构:全局平移应该在欧几里得空间中变化,旋转应该在单位四元数超球面上变化,相对关节姿态应该在预形状空间中变化。通过将这些因子显式地建模在其自然的流形上,RMG避免了欧几里得表示中的冗余和不一致,从而实现了更紧凑和稳定的运动表示。技术路线上,作者首先提出了一个统一的几何视图,将现有表示分解为公共因子及其自然流形;然后设计了紧凑的黎曼表示,该表示通过单位四元数、预形状和平移的正则长度实现了尺度无关和内在归一化;最后,通过黎曼流匹配学习时间相关的速度场,使用测地线插值构建训练样本,并在切空间中监督速度场,确保生成的运动始终保持在有效的流形上。

RMG的核心创新点在于将运动表示和生成动力学统一在一个几何感知的框架中,这与将表示和模型设计分开处理的传统方法有本质区别。具体而言,关键创新包括:提出了统一的几何视图,将现有运动表示分解为全局平移T、全局方向和每关节旋转R、局部姿态P及其时间差dF等因子,每个因子都有其自然的黎曼流形;通过消融实验和理论分析,证明了紧凑的T+R表示是最有效和稳定的,将运动流形简化为R3乘以(S3)的J次方,这比HumanML3D格式的12J - 1维大大降低了维度;将黎曼流匹配应用于大规模数据集和高容量生成架构,这是首次演示黎曼流匹配在这种规模上有效工作;设计了几何一致的训练和推理流水线,包括测地线插值、切空间监督和流形保持ODE积分,确保生成的运动始终保持在有效的流形上。与现有方法在生成后通过约束或后处理来强制几何一致性不同,RMG将几何一致性直接嵌入到表示和生成动力学中,这是本质的区别。

方法步骤详情

RMG方法的完整步骤如下。第一步,运动表示分解。作者将一个运动帧分解为几个因子:全局平移T在三维欧几里得空间R3中,全局方向和每关节旋转R,其中每个q_j是单位四元数,以及可选的局部姿态P和时间差dF。每个因子被建模在其自然的黎曼流形上:T在欧几里得空间R3,R在乘积流形(S3)的J次方,P在预形状空间S_J^3。第二步,先验分布定义。作者定义了黎曼高斯分布作为先验:在参考点mu处从嵌入的欧几里得空间采样高斯噪声,投影到切空间,然后通过指数映射缠绕到流形上。参考点mu被选择为静止姿态(零平移和单位四元数),这确保了从先验采样的样本对应于合理的静态姿态。第三步,训练样本构造。给定真实运动样本x_1和数据分布p_data,以及先验样本x_0和先验分布p_0,对于均匀分布在[0,1]中的t,构造测地线上的插值状态。第四步,目标速度计算。目标速度是测地线在x_t处的切向量,公式为v_t(x_t|x_1) = (1/(1-t)) * Log_{x_t}(x_1)。第五步,速度场预测。神经网络v_theta(x_t, t)预测速度场,其输出在环境欧几里得空间中,因此需要投影到切空间。第六步,训练损失。训练最小化目标速度和预测切空间速度之间的均方误差。第七步,推理生成。从先验p_0采样x_0,然后积分学习的流形ODE:dx_t/dt = Pi_{T_{x_t}M} v_theta(x_t, t),从t=0到t=1。使用一阶黎曼欧拉更新:x_{t+h} = Exp_{x_t}(h * Pi_{T_{x_t}M} v_theta(x_t, t)),这个更新通过构造保持了流形约束。

技术新颖性

RMG的技术新颖性体现在多个方面。首先,这是首次将黎曼流匹配成功应用于大规模数据集和高容量生成架构。之前的工作主要在小规模数据集上演示了黎曼流匹配的概念,而本文在MotionMillion(100万运动片段)上展示了其可扩展性,这在当时是首次。其次,作者提出的T+R紧凑表示在理论和实验上都得到了验证。理论上,作者证明了表示中的冗余会导致损失景观中的平坦方向,这在一定程度上解释了为什么紧凑的表示更稳定。实验上,消融实验系统地比较了不同因子组合的影响,发现T+R是最稳定和有效的选择。第三,作者提供了运动表示几何的系统性评估。通过比较T+R、T+R+P和T+P等不同表示,以及在2.5到9.5的引导比例范围内进行扫描,作者提供了关于哪些因子对运动质量和引导稳定性最重要的深入见解。第四,作者的理论分析为黎曼流匹配的统计优势提供了基础。作者证明了当数据分布支持在低维流形上时,在流形上学习流匹配比在环境空间中学习具有更好的渐近误差率,因为误差率依赖于内在维度而不是环境维度。最后,作者设计的转换函数证明了RMG表示的鲁棒性,能够转换为不同的输出格式(HumanML3D和MotionStreamer)并取得优秀的性能。

Illustration of the unified Riemannian representation for articulated motion and the Riemannian flow matching process.
Figure 2: Illustration of the unified Riemannian representation for articulated motion and the Riemannian flow matching process.
The conversion functions between different motion representations.
Figure 6: The conversion functions between different motion representations.

实验结果

论文的核心发现体现在多个实验结果中。首先,在HumanML3D数据集上,RMG在标准HumanML3D格式下实现了最优的FID为0.043,略优于之前的最佳方法MoMask的0.045,表明了更强的运动真实感和分布匹配。同时,模型保持了强大的文本运动一致性,R@1为0.525(仅次于MotionCLR的0.542),同时保持了高生成多样性(多样性为9.555)和多模态性(MM为2.748)。与仅优化部分权衡的先前方法(如较低的FID或较高的R@1)相比,RMG在质量、对齐和多样性方面提供了更平衡的提升。在MotionStreamer格式下,RMG在所有报告的指标上排名第一(FID为5.835,R@1为0.710,多样性为27.672,MM为14.906),进一步支持了学习的黎曼表示在不同输出格式上的鲁棒性。其次,在大规模MotionMillion基准测试上,RMG在保真度和文本对齐方面都超越了MotionMillion基线,并显示出明显有利的引导权衡。在引导比例2.0时,RMG达到了更好的FID为5.6,比最强的基线MotionMillion-7B的10.3有实质性改进,将近减少了分布差距的一半。将引导比例增加到3.0进一步将R@1从0.81提高到0.86,同时仍然保持比先前基线更强的FID。这些结果特别值得注意的是,RMG在扩大规模时仍然优越,表明收益不仅仅来自模型缩放,而是来自提出的黎曼运动表示和流匹配公式的有效性。第三,消融实验系统地分析了不同因子的影响。研究发现,T+R是一致最佳和最稳定的设置:其FID从大约0.084(引导比例为2.5时)降低到大约0.043的最小值(引导比例为6.5时),即使在大引导下也保持较低(引导比例为9.5时为0.101)。相比之下,T+P随着引导增加单调退化(从0.20到0.44),表明没有旋转信息时鲁棒性差。对于时间差建模,研究发现T+R在整个引导范围内始终达到最低的FID,而dT+R随着引导增加稳定退化(从0.14到0.75),T+dR更不稳定(从0.44到1.03)。这些发现表明,绝对建模平移和旋转是引导稳定生成最鲁棒的选择,时间差建模在这种设置下不改进性能。

Comparison of motion representations.
Table 1: Comparison of motion representations.
Evaluation of text-based motion generation on HumanML3D dataset.
Table 2: Evaluation of text-based motion generation on HumanML3D dataset.
Evaluation of text-based motion generation on MotionMillion dataset.
Table 3: Evaluation of text-based motion generation on MotionMillion dataset.
Full results on the HumanML3D dataset in H3D format.
Table 4: Full results on the HumanML3D dataset in H3D format.
Full results on the HumanML3D dataset in MotionStreamer format.
Table 5: Full results on the HumanML3D dataset in MotionStreamer format.
Text-to-motion samples under our Riemannian Motion Generation framework.
Figure 1: Text-to-motion samples under our Riemannian Motion Generation framework.
Ablation study on different factors of our framework.
Figure 3: Ablation study on different factors of our framework.
Training loss curves for MotionMillion.
Figure 4: Training loss curves for MotionMillion.
Gradient norm curves for MotionMillion.
Figure 5: Gradient norm curves for MotionMillion.
查看结构化数据
任务指标本文基线提升
文本生成运动(HumanML3D格式) FID 0.043 MoMask 0.045 4.4%
文本生成运动(HumanML3D格式) R@1 0.525 MotionCLR 0.542 略低于最佳但保持平衡性能
文本生成运动(HumanML3D格式) 多样性 9.555 GT 9.503 接近真实数据分布
文本生成运动(MotionStreamer格式) FID 5.835 MotionStreamer 11.790 50.5%
文本生成运动(MotionStreamer格式) R@1 0.710 MotionStreamer 0.631 12.5%
文本生成运动(MotionMillion,G.S.=2.0) FID 5.6 MotionMillion-7B 10.3 45.6%
文本生成运动(MotionMillion,G.S.=3.0) R@1 0.86 MotionMillion-7B 0.79 8.9%

局限与改进

作者承认的局限性包括:首先,黎曼表示尚未在自回归设置中测试,尽管这已成为最近人类运动生成工作中的流行方向。其次,尚未探索更多的条件模态(如音乐、视频)和交互式生成场景(如人物对象交互)。第三,当前生成的持续时间限制为10秒(300帧),扩展到更长的时域可能需要更大的数据收集工作和更多的计算资源。第四,更丰富的身体配置(如手和面部)未包含在当前框架中,扩展到这些更丰富的配置可能需要额外的设计考虑。第五,运动编辑和时间填充在本文中未研究,黎曼表示如何适应这些任务还有待观察。除了作者承认的局限性外,我还观察到:首先,虽然T+R表示很紧凑,但对于某些可能需要更精细姿态控制的应用(如手部姿态或面部表情),可能需要额外的因子。其次,黎曼流匹配的训练和推理需要特殊的几何操作(指数映射、对数映射、切空间投影),这可能比标准的欧几里得操作更复杂,可能增加实现难度。第三,虽然RMG在引导稳定性方面表现出色,但在极端引导比例(如大于9.5)下的行为尚未充分探索。第四,论文主要关注文本到运动生成,但RMG框架如何适应其他条件模态(如音频、动作标签)的系统性评估有限。

独立分析的弱点

基于对论文的独立分析,我识别出以下弱点及改进方向。首先,RMG框架主要关注全局平移和关节旋转,忽略了局部姿态因子。虽然在标准运动生成任务中这可能足够,但对于需要精细控制局部关节相对位置的应用(如手势动画或特定姿态约束),可能需要重新引入姿态因子。改进方向是设计一种自适应的因子选择机制,根据任务需求动态选择使用哪些因子。其次,当前方法限制生成时长为10秒,这在实际应用中可能不够。对于长时序运动生成,当前方法可能会累积误差或失去一致性。改进方向是引入层次化的生成框架或分段生成机制,并开发长时间跨度的连续性保持策略。第三,虽然RMG在引导稳定性方面表现出色,但论文没有充分探索极端引导比例下的行为。改进方向是进行更系统的引导比例扫描,探索RMG的边界行为,并可能开发自适应引导机制。第四,RMG框架主要评估了文本到运动生成,但对其他条件模态(如音频、音乐、场景上下文)的支持有限。改进方向是设计多模态融合架构,将不同模态的条件信息统一嵌入到黎曼流形中。第五,论文没有详细讨论实时性能,这对于交互式应用很重要。改进方向是优化几何操作的计算效率,可能通过近似或预计算来实现实时推理。

未来方向

作者提出的未来研究方向包括:探索更多条件模态(如音乐、视频)和交互式生成场景(如人物对象交互);扩展到更长的生成时域;纳入更丰富的身体配置(如手和面部);研究运动编辑和时间填充;探索自回归设置下的黎曼表示。基于论文的成果,可以延伸以下方向:首先,将RMG框架扩展到自回归生成,探索黎曼表示在自回归设置中的优势。这可能需要设计适合自回归的流形解码器和注意力机制。其次,探索黎曼表示在运动编辑和重定位中的应用。由于黎曼表示具有自然的几何结构,可能更适合进行语义感知的运动编辑,如运动风格转换、运动修复等。第三,研究RMG在人物交互和场景感知运动生成中的应用。这可能需要设计更复杂的流形表示,将环境信息和交互约束纳入几何框架。第四,探索RMG在跨领域迁移学习中的应用。由于黎曼表示捕捉了运动的本质几何结构,可能有助于在不同数据集或领域之间迁移运动知识。第五,研究RMG在物理约束和运动规划中的应用。黎曼表示可能更容易与物理约束结合,因为几何约束可以自然地表示为流形约束。最后,探索RMG在实时交互式应用中的应用,如虚拟现实、游戏和机器人控制。这可能需要进一步优化计算效率和生成质量之间的权衡。

复现评估

论文的复现评估需要从多个方面考虑。首先,开源情况:论文在补充材料中提到了项目页面,但没有明确说明代码和数据是否开源。如果代码开源,复现难度会大大降低。数据方面,HumanML3D是公开数据集,MotionMillion也是公开的,但MotionMillion的规模很大(100万运动片段),可能需要大量的存储和计算资源。其次,数据分布:论文详细描述了数据预处理步骤,包括归一化、参考姿态选择、四元数限制在上半球等,这些步骤需要精确实现以确保一致性。第三,算力需求:论文报告的训练细节表明,RMG-base使用有效批次大小32乘以8乘以1训练150k步,RMG使用有效批次大小16乘以8乘以2训练600k步。对于MotionMillion实验,训练步数达到600k,这表明需要大量的GPU时间。如果缺少多GPU设置,训练时间可能会很长。第四,实现复杂度:论文详细描述了黎曼几何操作(指数映射、对数映射、切空间投影),这些操作需要正确实现。特别是乘积流形上的操作需要逐因子应用,这增加了实现复杂度。第五,超参数敏感性:论文没有系统分析超参数(如学习率调度、梯度裁剪、EMA策略等)的敏感性,这可能需要一些调参。总体而言,如果代码开源,复现应该是可行的,但需要足够的计算资源和对黎曼几何的理解。如果代码不开源,复现难度会显著增加,需要仔细实现所有细节。