多域黎曼图拼接:构建图基础模型的新视角 Multi-Domain Riemannian Graph Gluing for Building Graph Foundation Models
用微分几何的"图拼接"理论把任意图数据集统一成一个光滑黎曼流形,配套 GRAPHGLUE 框架与可量化的迁移度量。
前置知识
黎曼流形 (Riemannian Manifold)
一个光滑流形 $\mathcal{M}$ 配上对称正定的黎曼度量张量 $G(p)$,每个点 $p$ 都对应一个切空间 $T_p\mathcal{M}$,可用来定义内积、长度、测地线和曲率。本质上是把欧氏度量的概念推广到弯曲空间,使得在每点的局部邻域里仍能像在 $\mathbb{R}^n$ 一样做线性代数。
本文把多域图统一进一个"统一的黎曼流形",所有几何量 (metric / 切空间 / 曲率 / holonomy) 都建立在这一对象上,没有这个数学框架,整个 GRAPHGLUE 体系就无从落地。
切空间与活动标架法 (Cartan Moving Frame)
在流形每点的切空间里选一组局部正交基 $\{w_m\}$ 来描述局部几何,沿曲线平移这些基就得到"活动标架"。这是 Élie Cartan 提出的经典微分几何方法,可以把流形上的张量运算化成标架上的分量计算。
本文的自适应正交标架 (AOF) 是活动标架法的可学习版本,用来近似方向导数 $D_v f = \lim_{t\to 0}\frac{f(p+tv)-f(p)}{t}$,并让 GNN 编码器自动学到切空间的局部基底。
Holonomy 与曲率
沿一条闭合回路 $C$ 平移切向量得到的复合映射 $H(C)$ 称为 holonomy;它与黎曼曲率张量 $R$ 严格相关——若对所有环 $H(C)\equiv I$ 则流形平坦,否则 $H(C)$ 的偏差反映了曲率。直观上,holonomy 度量"绕一圈回来向量转了多少"。
论文核心创新之一:用 holonomy loss 惩罚"图三角形绕一圈不平移回自身",从而保证拼接后流形连续可微 (C¹),并把抽象的曲率约束变成可微的 $\|P^{(k,i)}P^{(j,k)}P^{(i,j)}-I\|_F^2$ 目标。
Ricci 曲率与体积元
Ricci 曲率 $\mathrm{Ric}(\dot\gamma)$ 控制测地线方向上体积元 $\sqrt{\det G}$ 的变化率,正曲率体积收缩,负曲率体积膨胀。Ricci 曲率在黎曼几何中可视为"截面曲率的平均",常出现在 Einstein-Hilbert 泛函中。
论文把难以计算的 Ricci 曲率近似成 $\det G_i/\det G_j$ 之比 (定理 4.9),从而得到可优化的曲率损失 $\mathcal{L}_{\mathrm{Curv}}$,这正是从 C¹ 上升到 C² 光滑的桥梁。
图自监督预训练与对比学习
通过生成式 (如 GraphMAE 重建被遮蔽特征) 或对比式 (DGI/GCC 最大化互信息/子图判别) 任务在无标签图上学通用编码器,使得下游少样本任务只需少量微调就能达到好效果,是图基础模型的训练范式基础。
GRAPHGLUE 的预训练目标之一仍是图对比损失 $\mathcal{L}_{\mathrm{proto}}$,把多域样本推到黎曼原型周围,与自监督预训练是相辅相成的关系。
Prompt / Fine-tune 适配
冻结预训练参数,在下游任务上学习轻量提示向量或 prompt 矩阵 $Q$,避免灾难性遗忘。常见做法有:prefix-prompt (加在输入)、adapter (插层)、LoRA (低秩增量),目标是让一个预训练模型服务多个下游任务。
GRAPHGLUE 适配阶段用可学习 prompt 矩阵 $Q$ 作用于 $W^T$ (而非直接修改 $G$),并通过 Riemannian MoE 聚合源域信息,本质是 prompt 适配在黎曼流形上的推广。
研究动机
图基础模型 (GFM) 想在节点分类、链接预测、图分类等多种任务上都用同一个预训练 encoder,核心难点是社交网络、生物分子、电商共购图之间存在巨大语义异质性。已有方法 (PRODIGY、GFT、RAGraph、SAMGPT、GCOPE、MDGFM) 多依赖 graph codebook、motif、computation tree、LLM 文本或 domain token 等"工程性"手段学共享知识,但都回避了一个根本理论问题:知识到底是如何在域间"整合"和"传递"的?具体来看,例如 GFT 在 1-shot Reddit 任务上只有 58.87% ACC,GCOPE 在 1-shot Arxiv 上仅 26.52% ACC,说明负迁移、跨域一致性差仍是常态。更严重的是,已有跨域相似度度量 (Wang et al. 2024; Ruiz et al. 2020) 把预训练和适配当成两件事,无法回答"目标图到底有多难迁移",对未见域更是无从评估。
本文的目标是论文要把"多域图预训练"放进一个统一的数学框架——把任意图数据集拼成一个统一、光滑的黎曼流形 $\mathcal{M}$,从而 (1) 系统理解知识整合/传递的机理,给出"为什么 A 域能帮 B 域"的几何解释;(2) 提出 GTM (Geometric Transfer Metric) 来量化任意目标域的迁移难度,使得研究者可以在真正预训练之前估计可行性;(3) 设计 GRAPHGLUE 框架,把上述理论落地为支持大规模批量预训练 (Batched Pre-training) 与跨域 Prompt 适配的工程系统,并通过 EMA prototyping、Riemannian MoE 等模块让模型在 1-shot/5-shot 跨域任务上同时取得 SOTA。换言之,本文要回答三件事:用什么结构 (流形)、怎么保证一致 (拼接定理)、怎么测代价 (GTM),目标是让多域图预训练从"靠经验调"变成"有理论背书"的科学问题。
与已有工作不同的是,作者没有像传统黎曼图模型那样选一个固定流形 (hyperbolic / spherical / SPD / product),而是首次提出"神经流形拼接"理论——先学局部几何 (AOF+稀疏扰动),再用 edge tangent translation + holonomy + Ricci 平滑三步把局部片段"粘"起来。这套视角与 Cartan 活动标架法一脉相承,但在深度学习上属首次系统化,所以能同时回答"怎么拼"、"什么时候一致"、"怎么测难度"三个问题。
核心方法
GRAPHGLUE 的核心直觉是:每张图都是黎曼流形上的一个小"局部坐标卡",把多张图的坐标卡沿边和三角形拼起来就能得到一张覆盖所有域的全局流形。技术上分三步:(1) 在每个节点 $z^{(i)}$ 处,通过 $(k,M)$ 稀疏扰动向图中临时加 $M$ 个虚拟节点,再让 GNN 编码并做 QR 分解,得到局部正交标架 $W^{(i)}\in\mathbb{R}^{d\times M}$,其 Gram 矩阵就是局部度量 $G_i=W^{(i)\top}W^{(i)}$;(2) 沿边 $(i,j)\in E$ 用 edge tangent translation $P^{(i,j)}=G_j^{-1/2}G_j^{1/2}G_iG_j^{1/2}G_j^{-1/2}$ 等距对齐,并要求三角形的 holonomy $P^{(k,i)}P^{(j,k)}P^{(i,j)}\approx I$ (定理 4.5/4.8);(3) 通过 $\frac{1}{2}\log\det G_i$ 的 Dirichlet 能量最小化得到 Ricci 平滑 (定理 4.9)。预训练阶段用 EMA 滑动平均更新每个源域的黎曼原型 $(z^{\mathcal{S}_k},\log G^{\mathcal{S}_k})$,并用 $\mathcal{L}_{\mathrm{proto}}$ 把不同域推散。适配阶段冻结 encoder,只学 prompt 矩阵 $Q$ 和 Riemannian MoE 门控 $\beta_k=g_k(z_{\text{adapt}},G_{\text{adapt}})$,并把目标图与最近 $k$ 个原型连成 transfer graph 同时算 $\mathcal{L}_{\mathrm{holo}}+\mathcal{L}_{\mathrm{Curv}}$。最终用一个自然的几何传递度量 $\mathrm{GTM}=\Delta H+\Delta C$ 衡量目标域被融合的代价。
区别于已有 GFM (codebook / motif / coordinator / topology alignment),GRAPHGLUE 的本质创新在于:把"多域对齐"从特征工程改造成"流形拼接"——局部用 QR 分解 + 稀疏扰动得到自适应的正交基 (而不是固定的双曲/球面),全局用 holonomy 约束保证 $C^1$ 连续、用 log-det 平滑保证 $C^2$ 连续。这使得 (a) 度量本身是可学习的、(b) 拼接结果有严格的全局度量存在性定理 (定理 4.6)、(c) 传递难度有了 closed-form 公式 GTM,可以脱机算。
方法步骤详情
完整训练流程 (Algorithm 1) 分三阶段:① **Mix 训练局部构造**:对每个 batch $B$ 跑 GRAPHGLUE 前向得到 $(Z,W)$,先算对比损失 warm-up $\mathcal{L}_{\mathrm{local}}$,warm-up 后加原型损失 $\mathcal{L}_{\mathrm{proto}}$,再用 EMA 公式 $z^{\mathcal{S}_k}\leftarrow \beta z^{\mathcal{S}_k}+(1-\beta)\frac{1}{|B_k|}\sum_{G\in B_k}z_G$ 更新黎曼原型;② **Mix 训练全局骨架**:用 cross-dataset KNN 图在跨域 $Z$ 上抽三角形路径 $T$,对 $T$ 中每个三角形算 $\mathcal{L}_{\mathrm{holo}}+\mathcal{L}_{\mathrm{Curv}}$;③ **单域精修**:再分别对每个源域在自己图上抽三角形做几何正则化,避免局部被跨域平滑掉。适配时:对目标图 $G_T$ 跑一次前向得到 $(z^T,W^T)$,用 prompt $Q$ 修正得到 $z_{\text{adapt}}=Qz^T$、$G_{\text{adapt}}=\mathrm{diag}(\|Qw_1^T\|^2,\ldots,\|Qw_M^T\|^2)$,把 $G_T$ 与 $k$ 近邻原型连成 transfer graph $G'$,同时算任务损失 $\mathcal{L}_{\mathrm{task}}$ 与拼接损失 $\mathcal{L}_{\mathrm{glue}}=\mathcal{L}_{\mathrm{holo}}(G')+\mathcal{L}_{\mathrm{Curv}}(G')$,最后 MoE 输出 $\log G_{\text{align}}=\sum_k\beta_k\log G^{\mathcal{S}_k}$,把 $[z^T;\log G_{\text{adapt}};\log G_{\text{align}}]$ 送入线性分类头。
技术新颖性
技术新颖性体现在四点:(1) 首次将 Cartan 活动标架引入深度学习,用稀疏扰动 + QR 分解生成可学习的正交标架 (Definition 4.2),并证明切向量长度上界 $\|w^p_m\|\le(1+\varepsilon)\|P\|$ (Theorem 4.3);(2) 给出 edge tangent translation 的 closed-form 最优解 (Theorem 4.5),并证明存在唯一全局度量 (Theorem 4.6),这是首个为多域图证明 metric 存在性的工作;(3) 用三角形 holonomy $\|P^{(k,i)}P^{(j,k)}P^{(i,j)}-I\|_F^2$ 替代昂贵的全图 Ricci 估计,并由此推出"所有环 holonomy 平凡"的拓扑条件 (Theorem 4.8);(4) 通过控制 $\log\det G$ 在图 Laplacian 下的 Dirichlet 能量实现 $k$ 阶光滑 (Definition 4.10),并提出 $\mathrm{GTM}=\Delta H+\Delta C$ 的可解释迁移度量 (Eq. 12),是首个把"域间传递难度"与"流形几何"直接挂钩的工作。
实验结果
**跨域迁移主表 (Table 1)**:在 1-shot 设置下,GRAPHGLUE 在 6 个目标域中 5 个拿下第一:Arxiv 28.88\% (vs MDGFM 26.05)、Computers 59.50\% (vs GFT 54.65,+4.9)、Reddit 67.12\% (vs MDGFM 64.88,+2.3)、FB15k-237 59.75\% (vs GCOPE 58.25)、HIV 60.22\% (vs SAMGPT 55.48);在 5-shot 同样领先 Reddit 85.05\% (vs MDGFM 76.55,+4.6)、FB15k-237 81.51\%、Computers 73.29\%。**消融 (Table 22)**:去掉 $\mathcal{L}_{\mathrm{Curv}}$ 在 1-shot Arxiv 上掉到 22.33\% (-6.55)、Computers 49.63\% (-9.87),去掉 $\mathcal{L}_{\mathrm{holo}}$ 也明显掉 (Arxiv 27.14\%、PROTEINS 53.23\% vs 55.87\%),说明 holonomy 损失保证拓扑连续、curvature 损失保证光滑,两者缺一不可。**GTM 度量 (Figure 3)**:训练 2000 epoch 时 curvature loss 的下降趋势与测试 task loss 高度一致,rolling std 收敛到 0.02 左右,证明 GTM 确实捕捉到了"迁移难度"。**Case Study (Figure 4)**:在 Reddit-only 上预训练 ACC=58.32,再加入 PROTEINS 涨到 62.71、再加 HIV 到 64.33,而 GCOPE 从 58.32→54.95→55 出现负迁移,证明 GRAPHGLUE 能稳健吸收异源知识。**几何标度律 (Figure 5)**:把 0 个→6 个额外数据集拼进去,1-shot 性能在 Computers 上从 60→72\%、Reddit 从 67→88\%,拟合公式 $\ln y=-0.20\ln x+0.63$,呈现清晰的对数标度律;5-shot 收益较平缓,符合"在 1-shot 极限下预训练质量决定一切"的直觉。**可视化 (Figure 6)**:6 个数据集在 3D 嵌入上确实分开——PROTEINS/HIV (化学) 远离其它四个,Reddit/Arxiv/Computers/FB15k 因共享语义而部分交叠,符合理论预期。**效率 (Table 5)**:6 个数据集时 GraphGlue 仅占 29.21 GB 显存,而 GCOPE 在 4 个数据集就 OOM、MDGFM 在 4 个 OOM,内存优势源于 $O(B(|V|+|E|+M^2+K)d+T_sM)$ 的近线性复杂度。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Arxiv 节点分类 (1-shot, 跨域) | ACC (%) | 28.88±5.22 | MDGFM 26.05±2.40 | +2.83 |
| Computers 节点分类 (1-shot, 跨域) | ACC (%) | 59.50±7.05 | GFT 54.65±4.08 | +4.85 |
| Reddit 节点分类 (1-shot, 跨域) | ACC (%) | 67.12±3.39 | MDGFM 64.88±3.31 | +2.24 |
| FB15k-237 链接分类 (1-shot, 跨域) | ACC (%) | 59.75±5.27 | GCOPE 58.25±2.67 | +1.50 |
| PROTEINS 图分类 (1-shot, 跨域) | AUC (%) | 59.87±4.85 | GraphMAE 60.11±13.07 | 并列,标准差更小 (4.85 vs 13.07) |
| HIV 图分类 (1-shot, 跨域) | AUC (%) | 60.22±3.09 | GFT 58.94±6.32 | +1.28 |
| Reddit 节点分类 (5-shot, 跨域) | ACC (%) | 85.05±1.17 | MDGFM 76.55±1.72 | +8.50 |
| FB15k-237 链接分类 (5-shot, 跨域) | ACC (%) | 81.51±2.31 | MDGFM 77.67±2.05 | +3.84 |
| Heterophilic Wisconsin (5-shot, 8 数据集预训练) | ACC (%) | 51.49±7.97 | MDGFM 46.62±4.16 | +4.87 |
局限与改进
作者在附录 G 中坦承:(1) 在 Arxiv 5-shot 任务上 GraphGlue 37.02\% 略输于 GCOPE 39.18\% (-2.16),说明对超大节点数 + 极少训练样本的极端 5-shot 场景,几何平滑可能稀释了任务判别特征;(2) PROTEINS 5-shot 65.32\% 相比 GFT 62.18\% 之外的部分,相比 GCOPE 64.85\% 也只领先 0.47\%,对生物小图收益不显著。我自己的额外观察:(a) 方法对超参 $k$ (稀疏扰动邻域) 较敏感——表 14a 显示 $k=15$ 时 Arxiv 1-shot 29.73\%,$k=2$ 时跌到 18.64\%,对超参选择依赖人工调参;(b) 计算复杂度虽近似线性,但 triangle 采样近似 (用边对代替真三角形) 在小图上可能引入偏差;(c) GTM 在 holonomy loss 快速归零的场景下只剩 $\Delta C$,信息量下降,Figure 3 中前 200 epoch holonomy 几乎为 0,等于退化为单一标量;(d) 全部实验在 6 个图分类 + 6 个大规模节点图上完成,对超大规模 (亿级边) 异质图的扩展性未充分验证。
独立分析的弱点
**超参敏感**:稀疏扰动的 $k$ (邻域大小) 与 $M$ (虚拟节点数) 强烈影响结果,Table 14 显示在 $M=32$ 固定时 $k\in\{2,5,10,15,30,60\}$ 的 Arxiv 1-shot 在 15.29\%~29.73\% 之间剧烈波动,建议引入自动化 $k$ 选择 (例如用 Ricci 流自适应) 或学习式 top-$k$。**1-shot/5-shot 不对称收益**:1-shot 时几何标度律显著 (1-shot ACC 涨 5-8\%)、5-shot 时几乎不变 (1-2\%),说明模型对样本极稀缺场景特别有效、而对中等数据场景"边际效应递减",可考虑在 5-shot 时关闭 $\mathcal{L}_{\mathrm{glue}}$ 以保留任务判别力。**GTM 退化**:当 holonomy loss 早早收敛到 0 时 GTM 仅由 curvature 一项贡献,丧失对"路径不一致"的诊断力,可改成与 holonomy 同量纲的相对指标或加 log 归一化。**三角形采样近似**:Algorithm 1 用"相邻边对"代替真三角形以省算力,但理论上 Theorem 4.8 要求"每条边至少属于一个三角形",对稀疏图 (如 FB15k-237 的边密度 1.07) 未必成立,可能需要更可靠的边-三角匹配算法 (如 Pei's 三角枚举)。
未来方向
作者在结论和 Appendix G 暗示了几个方向:(1) 把理论扩展到**非紧致流形** (含边界的知识图谱、动态时序图),目前 Theorem 4.6 假设无边界;(2) 探索**自适应几何标度律**——图 5 是 $\ln y\sim -a\ln x+b$ 形式,$a$ 显然依赖目标域,是否能根据目标 GTM 反向预训练应该再增多少数据集,从而把"数据规模"变成可调度变量;(3) 与 LLM 结合——目前 GFM 多用文本特征,本文纯拓扑,但若给 $P$ 节点配 text embedding 即可扩展到 text-attributed graph;(4) **更深的拼接**——现在 prototype 数量 $K$ 等于源域数,可考虑对每个域内部多设几个 prototype 形成 Riemannian Mixture of Prototypes,类似 MoE 但粒度更细。
复现评估
代码在 https://github.com/RiemannGraph/GraphGlue 开源,作者明确披露:(1) 12 个数据集的统计 (Table 6) 全部公开,可直接用 PyG/DGL 下载;(2) 实现细节——2 层 GCN 骨干、$M=32$、$k=15$、hidden=512、dropout=0.1、Adam + cosine annealing、lr=1e-4、温度 1.0、每数据集的 $k$ (KNN) 与 $\lambda$ 都在 Table 7-12 列出;(3) 计算资源在 Table 5 中给出,6 个数据集时 29.21 GB,单卡 A100/A800 即可 (GCOPE/MDGFM 在 4 个数据集就 OOM);(4) 每次实验 10 个不同随机种子平均并报告标准差,统计意义充分;(5) Appendix H 是完整的 reproducibility statement,理论证明 (Theorem 4.3-4.11) 全部在 Appendix B 中给出。**复现难度**:中等偏低——几何正则化与 holonomy 实现需要一定微分几何背景,但作者提供了 (k,M)-sparse perturbation 与 edge tangent translation 的可微 PyTorch 实现 (见 D.2 复杂度表),3-5 天可复现主表。
论文图表
将 6 个数据集 (ogbn-arxiv / Computers / Reddit / FB15k-237 / PROTEINS / HIV) 想象成一张大黎曼流形上的不同色块,每个色块代表一个域的局部坐标卡,相邻色块之间用"胶水" (edge tangent translation + holonomy) 拼接成一张光滑的全局曲面。
这是论文核心 idea 的视觉锚点——读者第一次接触"流形拼接"概念时必须先看这张图,才能理解为什么需要局部几何+全局平滑。