SIMSPINE:面向3D脊柱运动标注与基准测试的生物力学感知仿真框架 SIMSPINE: A Biomechanics-Aware Simulation Framework for 3D Spine Motion Annotation and Benchmarking
首个开源3D脊柱运动数据集,通过生物力学仿真生成214万帧解剖学一致的脊柱关键点标注
前置知识
逆向运动学
逆向运动学是通过已知末端执行器的位置来求解关节角度的方法。在本文中,它指的是给定2D检测的脊柱关键点和Human3.6M的3D标记,通过优化求解OpenSim模型的关节角度,使模型标记与观测标记匹配。数学上,这是一个加权最小二乘问题:q_t^* = arg min_{q_t} sum_{m in M} w_m ||z_{m,t} - z_m_hat(q_t)||_2^2 + lambda||Dq||_2^2,其中z_m_hat(q_t)是通过正向运动学从关节状态q_t得到的模型标记位置,w_m是每个标记的置信度,D惩罚关节速度和加速度以保证时间平滑性。
本文的核心技术依赖于IK从2D检测和3D标记中恢复解剖学一致的脊柱运动,理解IK的数学表述和优化原理对于理解整个仿真框架至关重要
正向运动学
正向运动学是通过关节角度计算末端执行器位置的方法。在本文中,它指的是从IK求解的关节角度q_t^*出发,计算附着在椎体上的虚拟标记的3D轨迹。对于每个椎体,其位置可以通过旋转矩阵R_i和平移向量t_i从父关节的坐标系变换得到:p_i = R_i * p_parent + t_i。这些虚拟标记定义了沿着脊柱分布的3D脊柱关键点(从骶骨底部到下颈椎)。同时,FK还输出每个椎体关于解剖轴的欧拉旋转(屈曲/伸展、侧弯、轴向旋转)作为生物力学参数。
FK是生成最终3D脊柱关键点标注的关键步骤,它将IK求解的关节角度转换为解剖学一致的椎体位置和旋转,是理解如何从运动学参数生成可观测数据的基础
肌肉骨骼建模
肌肉骨骼建模是对人体骨骼、关节和肌肉系统进行数学建模的方法。本文采用OpenSim平台,基于Rajagopal等人的全身模型,并融合Beaucage-Gauvreau等人的详细腰椎模型。模型包含62个运动轴,包括56个欧拉角,其中腰椎段(T12-L1到L5-S1)在每个椎间隙有三个旋转自由度,颈胸交界处有一个聚合的3自由度关节。每个功能运动段允许三种旋转(屈曲/伸展、侧弯、轴向旋转),平移很小且受约束。通过受试者特定的身高/质量估计进行缩放,以适应不同个体的解剖学特征。
OpenSim模型是整个仿真框架的生物力学基础,它定义了脊柱的解剖学结构和运动学约束,确保生成的脊柱运动符合实际生物力学原理,是理解数据集解剖学合理性的关键
鲁棒三角测量
鲁棒三角测量是从多个视角的2D点恢复3D点位置的方法。对于每个同步帧t和视角v,预训练检测器预测2D脊柱关键点u_v,t_hat ∈ R^{2×K_s}(K_s=9)。使用标定的内参/外参{K_v, R_v, t_v},通过鲁棒三角测量恢复伪3D点:X_t_tilde = arg min_X sum_{v in V} rho(Pi(K_v[R_v|t_v]X) - u_v,t_hat)_2^2,其中Pi表示透视投影,rho是鲁棒惩罚(Huber损失)。通过视角一致性和重投影误差阈值剔除异常值,并应用零相位低通滤波抑制帧间抖动。
三角测量是从2D检测生成伪3D脊柱标记的第一步,理解其数学原理和鲁棒性处理对于理解整个数据生成流程的可靠性至关重要
Procrustes对齐
Procrustes对齐是通过旋转、平移和缩放将一个点集与另一个点集对齐的方法。在本文中,它用于评估3D姿态估计的性能,通过将预测姿态与地面真值进行相似性对齐来消除全局姿态差异。对于每个预测帧,首先通过Procrustes相似性变换(s, R, t)对齐到地面真值:Y_aligned = sRY + t。然后计算对齐后的MPJPE(P-MPJPE)来评估几何形状的准确性,而不是全局位置和方向。P-MPJPE比未对齐的MPJPE更能反映模型对脊柱局部几何的重建能力。
Procrustes对齐是本文3D评估的核心指标,理解其作用对于正确解读实验结果、区分几何形状重建与全局姿态对齐的性能差异至关重要
腰椎前凸角和胸椎后凸角
腰椎前凸角(LLA,theta_l)和胸椎后凸角(TKA,theta_k)是描述脊柱矢状面曲度的临床指标,使用Cobb方法计算。LLA测量L1和S1终板之间的角度,正常成人范围为30-50度;TKA测量T3和T12终板之间的角度,正常范围为20-40度。在SIMSPINE中,LLA平均值为32-41度,TKA为28-39度,均在正常范围内。这些角度会根据动作类型变化,例如坐姿比站立时的腰椎前凸小,抬臂动作比其他动作的胸椎后凸小。
这些角度是验证SIMSPINE数据集生物力学合理性的关键指标,理解其临床意义和正常范围对于评估仿真数据的质量至关重要
研究动机
现有的脊柱运动研究面临数据稀缺的严重挑战。临床成像研究(如双荧光透视、MRI、X射线)虽然精度高,但成本昂贵、辐射剂量大、样本量有限,且大多限于静态姿势或受控环境。传统的运动捕捉系统擅长跟踪大尺度肢体运动,但无法捕捉脊柱的细微运动——椎体旋转、姿态摇摆、代偿性骨盆倾斜——这些影响脊柱稳定性、载荷分布和损伤风险。最近基于RGB的方法包括使用穿孔运动贴纸的标记辅助跟踪和用于2D脊柱关键点跟踪的真实世界数据集/模型,前者难以在受控设置之外部署,后者虽然可扩展但仍然是2D的,注释不透明且生物力学验证有限。此外,不同研究对脊柱活动范围的报告存在广泛差异,尸体研究、活体研究和计算研究之间缺乏一致性,表明没有单一的地面真值运动学概况。这种数据稀缺使得训练能够从全身姿态的细微变化中学习脊柱微运动的数据驱动模型变得不可能。
本文的目标是本文的具体目标是创建一个大规模的、解剖学一致的3D脊柱运动数据集,填补计算机视觉与生物力学之间的空白。具体而言,作者希望开发生物力学感知的关键点仿真框架,该框架能够使用肌肉骨骼模型生成解剖学上有效的3D脊柱运动数据,并用精确的脊柱标签增强现有的人体姿态数据集;发布SIMSPINE数据集,包含室内多摄像头捕捉的自然全身动作的椎体级3D脊柱标注,没有外部约束;提供预训练基线,包括微调的2D检测器、单眼3D姿态提升模型和多视图重建流水线,建立生物力学有效脊柱运动估计的统一基准。最终目标是使得数据驱动学习能够从细微的姿态变化中学习椎体运动学,并为基于视觉的生物力学、运动分析和数字人体建模研究提供可重现的、基于解剖学的3D脊柱估计能力。
与已有工作不同的是,本文的独特切入角度是将肌肉骨骼仿真与计算机视觉相结合,通过生物力学感知的关键点仿真来解决数据稀缺问题。与现有的临床成像方法(精度高但成本昂贵、样本量有限)和纯计算机视觉方法(可扩展但缺乏生物力学验证)不同,本文的方法提供了一个可扩展的代理,利用OpenSim的肌肉骨骼模型和Human3.6M的RGB数据生成解剖学合理的3D脊柱运动。这种方法在几何合理性(曲度包络、ROM概况)方面进行了实证验证,虽然不如双荧光透视/双平面跟踪等活体地面真值精确,但为方法开发和基准测试提供了实用的桥梁。另一个独特之处是本文的数据集同时提供了RGB序列和解剖学约束的3D运动,这是现有数据集中没有的组合(Table 1),它连接了临床成像、生物力学和计算机视觉领域,为脊柱感知姿态估计提供了大规模预训练资源,随后可以在较小的、生物力学验证的数据集上进行微调。
核心方法
生物力学感知的关键点仿真框架整体思路是:先从RGB图像中提取脊柱的粗略位置信息,然后将其与已有的3D人体姿态标记融合,最后通过肌肉骨骼模型的逆向运动学和正向运动学生成解剖学一致的3D脊柱关键点。技术路线包括五个主要步骤:多视图脊柱检测和三角测量,使用预训练的2D脊柱检测器从多视角RGB图像中检测脊柱关键点,然后通过鲁棒三角测量恢复伪3D脊柱标记;与地面真值身体标记合并,将伪3D脊柱标记与Human3.6M的3D身体标记在语义和时间上对齐,合并为统一的OpenSim标记集;受试者缩放和逆向运动学,使用受试者特定的身高/质量估计对全身OpenSim模型进行缩放,然后通过IK求解器将合并的标记轨迹拟合到模型,得到每个时间步的关节角度;虚拟椎体标记和正向运动学,在椎体上附着虚拟标记,通过FK从IK解的关节角度计算它们的3D轨迹,这些轨迹定义了沿着脊柱分布的3D脊柱关键点,同时输出每个椎体的欧拉旋转作为生物力学参数;质量控制和策展,剔除曲度不合理的帧,限制角度不连续性,应用时间平滑和插值,确保运动连续性。这种方法的核心思想是利用OpenSim的生物力学约束来校准和增强2D检测的精度,生成解剖学一致的3D脊柱运动数据。
本文的核心创新点是将肌肉骨骼仿真作为生物力学先验,用于增强和校准从RGB图像中提取的2D脊柱检测,从而生成解剖学一致的3D脊柱运动。与现有方法的本质区别在于:大多数现有的脊柱姿态估计方法直接从图像学习2D或3D脊柱关键点,缺乏解剖学约束,而本文的方法通过OpenSim模型强制执行生物力学合理性,确保生成的脊柱运动符合实际解剖结构;现有的临床成像方法提供高精度的脊柱运动测量,但样本量有限且成本昂贵,而本文的方法提供了一个可扩展的代理,能够从现有的RGB人体姿态数据集生成大规模的脊柱运动数据;现有的仿真方法通常只关注几何合理性,而本文的方法通过对比生物力学文献中的曲度和活动范围,进行实证验证,确保生成的脊柱运动不仅在几何上合理,而且在生物力学上可信。这种仿真驱动标注的方法使得数据驱动学习能够从自然动作中学习脊柱微运动,并为基于视觉的生物力学研究提供了新的数据资源。
方法步骤详情
方法的完整步骤如下:第一步是多视图脊柱检测和三角测量。对于每个同步帧t和视角v,使用预训练的SpinePose检测器预测2D脊柱关键点u_v,t_hat ∈ R^{2×K_s}(K_s=9)。使用Human3.6M的标定内参/外参{K_v, R_v, t_v},通过鲁棒三角测量恢复伪3D点:X_t_tilde = arg min_X sum_{v in V} rho(Pi(K_v[R_v|t_v]X) - u_v,t_hat)_2^2。通过视角一致性和重投影误差阈值剔除异常值,应用零相位低通滤波抑制帧间抖动,输出伪3D脊柱标记X_t_tilde ∈ R^{3×K_s}。第二步是与地面真值身体标记合并。令Y_t ∈ R^{3×K_h}为Human3.6M的3D标记(K_h个关节)。通过选择语义对应关系、在Human3.6M帧时间处的时间同步、通过短视界插值填充缺失视角,将伪3D脊柱集X_t_tilde和Y_t对齐到公共OpenSim标记集M,输出合并的标记Z_t = {Y_t, X_t_tilde} ∈ R^{3×K}作为IK目标。第三步是受试者缩放和逆向运动学。采用基于Rajagopal等人的全身OpenSim模型,并融合Beaucage-Gauvreau等人的详细腰椎模型。使用从TRC人体测量学导出的受试者身高/质量估计进行缩放(保守的异常值修剪)。IK求解加权最小二乘问题:q_t^* = arg min_{q_t} sum_{m in M} w_m ||z_{m,t} - z_m_hat(q_t)||_2^2 + lambda||Dq||_2^2,其中z_m_hat(q_t)是从关节状态q_t通过FK得到的模型标记位置,w_m是每标记置信度(Human3.6M标记较高,伪脊柱点较低),D惩罚关节速度/加速度以实现时间平滑性,输出IK解{q_t^*},每个时间步的关节角度。第四步是虚拟椎体标记和正向运动学。在椎体上附着虚拟标记(质心位置),通过FK从IK解{q_t^*}计算它们的3D轨迹。这些标记定义了沿着脊柱分布的3D脊柱关键点(从骶骨底部到下颈椎)。同时,输出每个椎体关于解剖轴的欧拉旋转(屈曲/伸展、侧弯、轴向旋转)作为生物力学参数,输出3D脊柱关键点轨迹和每椎体旋转。第五步是质量控制和策展:剔除曲度不合理的帧,限制来自万向节包裹的罕见角度不连续性,应用时间平滑和插值填充小间隙,确保运动连续性。生成受试者特定缩放的OpenSim模型、标记位置和与Human3.6M RGB帧时间同步的关节角度。标记总数为37个,包括12个来自Human3.6M的肢体点,15个直接建模脊柱的高精度新点,以及10个脚部和面部的伪标记。运动轴为62个,包括56个欧拉角。最终输出SIMSPINE数据集,包含214万帧,15个脊柱关键点和每段旋转。
技术新颖性
本文的技术新颖性体现在多个方面:首次将肌肉骨骼仿真与大规模RGB人体姿态数据集结合,通过OpenSim模型生成解剖学一致的3D脊柱运动标注。与现有方法相比,这种方法提供了一个可扩展的代理,能够在不依赖昂贵临床成像的情况下生成大规模脊柱运动数据。提出了生物力学感知的关键点仿真框架,通过IK将2D检测与3D身体标记融合,然后通过FK生成椎体级关键点和旋转参数。这种框架不同于纯数据驱动的方法,它强制执行生物力学约束,确保生成的脊柱运动符合实际解剖结构。通过统计分析和与生物力学文献对比,对仿真脊柱运动学进行了实证验证。胸腰椎脊柱曲度(LLA和TKA)的分布与活体研究一致,并且表现出特定的活动趋势(例如,坐姿比站姿的腰椎前凸小)。腰椎ROM曲线表现出已知的定性梯度(屈曲/伸展从胸腰椎交界处向尾部水平增加,在L4-L5附近达到峰值,然后在L5-S1减小),这些趋势很难用无约束的姿态先验再现。发布了SIMSPINE数据集,这是第一个提供自然全身动作的椎体级3D脊柱标注的开放数据集,包含214万帧,15个脊柱关键点和每段旋转。与现有数据集(Table 1)相比,SIMSPINE独特地结合了真实RGB序列和解剖学约束的3D运动,连接了临床成像、生物力学和计算机视觉领域。提供了一套预训练基线,包括6个微调的2D检测器(用于野外全身姿态估计的最先进脊柱跟踪)、2个单眼3D基线(用于根相对3D)和1个多视图3D方法(用于绝对度量坐标空间中的高精度3D),建立了生物力学有效脊柱运动估计的统一基准。
实验结果
实验结果验证了SIMSPINE数据集的质量和有效性,并建立了脊柱感知姿态估计的参考基线。在2D检测任务中,通过在SpineTrack和SIMSPINE的平衡组合上微调模型,室内AUC从0.61提高到0.80(SpineTrack APS从0.91提高到0.93),表明仿真数据能够增强真实数据的性能。多视图三角测量基线实现了31.8毫米MPJPE和29.5毫米P-MPJPE,而使用GT 2D的oracle达到了亚毫米级P-MPJPE(Table 3和Table 4),证实了几何一致性。对于单眼提升,全身变体优于仅脊柱变体(检测的2D:18.6毫米→16.3毫米P-MPJPE;GT 2D:17.5毫米→13.5毫米),表明全局上下文有助于椎体定位。生物力学验证显示,胸腰椎脊柱曲度(LLA平均32-41度,TKA平均28-39度)落在正常成人范围内,并且表现出特定的活动趋势(例如,坐姿比站姿的腰椎前凸小,抬臂动作的胸椎后凸小)。腰椎ROM曲线表现出已知的定性梯度(屈曲/伸展从胸腰椎交界处向尾部水平增加,在L4-L5附近达到峰值),这些趋势与White和Panjabi (1978)的报告一致。颈部代理分析显示,尽管将颈椎建模为单个聚合3自由度关节,但特定动作的颈部ROM分布保持在生理可信的包络内,并且对于头部运动任务(如Phone)有更宽的分布,表明对于粗略的头部-颈部运动学有用。数据混合消融研究表明(Figure 5),仅使用SIMSPINE的2%进行微调就能在室内和室外性能之间达到最佳平衡,进一步增加SIMSPINE比例(从2-5%到10%)会使室外AP饱和在0.84左右,表明只需要一小部分高质量室内样本就足以增强泛化。每批次混合优于每轮交替,因为它允许优化器和动量估计器在每个迭代中从两个数据集联合观察样本。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 2D脊柱姿态估计 | AUC(室内) | 0.80 | 0.61 | +31.1% |
| 2D脊柱姿态估计 | AP(室外) | 0.93 | 0.91 | +2.2% |
| 多视图3D重建 | MPJPE (毫米) | 31.8 | N/A | 首次基线 |
| 多视图3D重建 | P-MPJPE (毫米, GT 2D) | <1 | N/A | 亚毫米精度 |
| 单眼3D提升 | P-MPJPE (毫米, 检测2D) | 16.3 | 18.6 | -12.4% |
| 单眼3D提升 | P-MPJPE (毫米, GT 2D) | 13.5 | 17.5 | -22.9% |
局限与改进
作者承认的局限性包括:解剖学简化,只对五个椎间隙腰椎关节和单个3自由度颈胸关节进行建模,而将剩余的胸椎和颈椎段视为刚性。这种选择是为了数值稳定性和从RGB输入的可识别性,但它忽略了肋笼耦合和软组织效应,这些效应在实质上约束和分布胸椎运动。椎间平移未建模,虽然在健康脊柱中很小,但用立体放射照相术测量了非零平移。骨盆-腰椎耦合简化,可能低估躯干运动期间的腰盆节奏。受试者隐含健康且按身高/质量缩放,年龄、性别和病理依赖的矢状面对齐变异未建模,因此数据集编码名义健康运动先验而不是临床看到的多样性。视觉域受限,所有运动都来自Human3.6M,限于室内固定多摄像头摄像头和受限动作集,这可能限制对完全无约束的野外场景的泛化。仅运动学,OpenSim步骤只解决逆向运动学,肌肉激活、地面反作用力和载荷平衡未执行,因此轨迹在几何上是合理的但未经物理验证。我自己的观察包括:数据集仅限于7个受试者和15个动作,样本多样性有限。颈部建模过于简化(单个聚合关节),可能不足以支持精细的颈部运动学。未验证病理状态,数据集仅代表健康脊柱运动。仿真框架假设Human3.6M的2D检测足够准确,但在实际应用中,野外场景的检测精度可能显著下降。
独立分析的弱点
本文存在以下具体弱点和改进方向:解剖学建模过于简化,当前模型将胸椎和颈椎大部分视为刚性,忽略了肋笼耦合和软组织效应。改进方向是增加肋笼关节和小椎间平移,提高胸椎运动的生物力学保真度。作者也在讨论中提到,未来工作应扩展解剖保真度,通过添加肋笼关节和小椎间平移。仅运动学无动力学,当前方法只求解逆向运动学,未考虑肌肉激活、地面反作用力和载荷平衡,可能导致生成的运动在物理上不一致。改进方向是耦合IK与动力学(逆向动力学或最优控制)以确保力一致的运动。作者也在讨论中提到这是未来工作的三个优先事项之一。视觉域受限,数据集仅限于室内Human3.6M数据,动作类型和相机视角有限,可能限制对完全无约束的野外场景的泛化。改进方向是扩展视觉域,包括野外序列和病理特定队列。作者也在讨论中提到这是未来工作的优先事项之一。颈部建模过于简化,当前模型将颈椎建模为单个聚合3自由度关节,可能不足以支持精细的颈部运动学。改进方向是增加颈椎的分段建模,更准确地模拟颈椎的耦合运动模式。缺乏病理状态,数据集仅代表健康脊柱运动,未包括脊柱侧弯、椎间盘突出等常见病理状态。改进方向是收集或仿真病理状态数据,以支持临床诊断和康复应用。数据多样性有限,仅7个受试者和15个动作,样本多样性有限,可能影响模型的泛化能力。改进方向是扩展受试者数量和动作类型,增加年龄、性别和体质的多样性。验证方法有限,当前验证主要基于与生物力学文献的统计对比,未与活体地面真值(如双荧光透视)直接比较。改进方向是结合直立临床成像(EOS/荧光透视)与RGB,锚定受试者特定脊柱先验并减少椎体级运动的模糊性。
未来方向
作者提出的未来研究方向包括:扩展解剖保真度,添加肋笼关节和小椎间平移,提高胸椎运动的生物力学保真度。耦合IK与动力学,通过逆向动力学或最优控制确保力一致的运动,使生成的脊柱运动不仅在几何上合理,而且在物理上真实。扩展视觉域,包括野外序列和病理特定队列,提高数据集的多样性和泛化能力。基准测试角度标注,SIMSPINE中的角度标注在本工作中未评估,因为需要额外的设计选择(表示、归一化、解释),这些与初始基准正交。未来应基准测试这些角度标注。结合临床成像,长期来看,结合直立临床成像(EOS/荧光透视)与RGB,锚定受试者特定脊柱先验并减少椎体级运动的模糊性。基于成果可延伸的方向包括:开发更复杂的2D-3D提升模型,利用SIMSPINE的椎体级旋转标注,训练能够预测脊柱细微运动的模型。探索时序和生物力学先验,利用SIMSPINE的时间连续性和生物力学约束,开发时序模型和生物力学感知的损失函数。应用到临床诊断和康复,利用SIMSPINE训练的模型,开发脊柱疾病诊断、康复评估和人机交互应用。扩展到其他身体部位,将生物力学感知的关键点仿真框架应用到其他具有复杂运动学的身体部位(如手、脚)。开发力感知的脊柱模型,结合肌肉激活和地面反作用力,开发能够预测脊柱载荷和稳定性的模型。
复现评估
论文的复现性评估如下:开源情况,作者声明代码、模型和SIMSPINE标注将仅用于研究发布。然而,由于许可原因,全身关键点需要通过在许可的Human3.6M数据上运行流水线来重现。这意味着虽然仿真框架和脊柱标注是开放的,但完整的流水线复现需要Human3.6M许可,这可能限制部分研究者的访问。数据可用性,SIMSPINE数据集包含214万帧,15个脊柱关键点和每段旋转,基于Human3.6M的7个受试者(5个训练,2个验证)和15个动作。由于Human3.6M许可,原始RGB数据不可用,但通过运行作者的流水线可以重现脊柱标注。算力需求,论文未明确报告训练时间和算力需求,但从基线模型的复杂度(HRNet-w32、RTMPose-m、ViTPose-b等)来看,训练需要相当大的GPU资源。推理阶段的计算需求与标准的2D或3D姿态估计模型类似。实现细节,论文提供了方法论的详细描述,包括IK求解的数学表述、标记数量(37个标记)、运动轴数量(62个轴)和数据混合策略(2% SIMSPINE,每批次混合)。但是,一些超参数(如IK权重w_m、平滑参数lambda)的具体值在补充材料中,不在主论文中。评估协议,论文明确报告了评估指标(AP、AR、AUC、MPJPE、P-MPJPE)和数据分割(遵循Human3.6M标准分割),并提供了详细的结果表格,有助于复现和比较。依赖关系,方法依赖于OpenSim、Pose2Sim和预训练的SpinePose检测器,这些都是公开可用的工具和模型。总体而言,论文的复现性较好,但受限于Human3.6M许可,完整的流水线复现可能对部分研究者不可用。作者的仿真框架和脊柱标注是开放的,为脊柱运动估计研究提供了有价值的基础资源。
论文图表