面向流量矩阵预测的参数高效量子启发快速权重编程器 Parameter-Efficient Quantum-Inspired Fast Weight Programmers for Traffic-Matrix Forecasting
用量子启发快速权重实现高效TM预测，参数仅22.4%却超越LSTM。
前置知识
流量矩阵（Traffic Matrix, TM）
流量矩阵是一个多维数据结构，用于捕获网络中所有源-目的地（Origin-Destination, OD）节点对之间的流量需求。在Abilene等骨干网络中，TM通常表示为一个2 imes 12$的矩阵，包含144个OD对。每个OD对随时间演化，形成高维时间序列。TM预测是流量工程的核心任务，对容量规划、拥塞控制、路由优化和资源调度至关重要。与道路传感器预测不同，TM的通道对应的是虚拟OD流而非物理传感器，因此需要同时建模时间动态和跨通道依赖关系。
本文的研究对象就是流量矩阵预测，理解TM的时空结构对于理解模型的挑战和设计动机至关重要。
快速权重编程器（Fast Weight Programmer）
快速权重编程器是一种替代传统RNN隐藏状态递归的机制。它使用一组紧凑的、动态更新的快参数来存储时间信息，而不是仅依赖隐藏状态。具体来说，包含两个路径：慢速路径读取当前输入并生成对快参数的更新建议；快速路径使用当前的快参数生成序列输出。在gated变体中，标量门控在之前的快参数和新建议之间进行插值，作为参数演化的轻量级稳定器。这种机制将时间信息存储在动态更新的参数中而非隐藏状态里。
G-QKANFWP基于gated fast-weight框架，理解这一机制对于理解本文的模型架构创新至关重要。
量子启发的Kolmogorov-Arnold网络（QKAN）
QKAN是一种紧凑的非线性模块，使用量子变分激活函数。它是基于Kolmogorov-Arnold表示定理的网络架构，该定理指出任何多元连续函数都可以表示为一组单变量函数的叠加和。Hybrid QKAN (HQKAN) 是一个编码器-处理器-解码器实例，称为JHCG Net：经典编码器形成潜在特征，QKAN块对其进行非线性变换，解码器生成输出。QKAN模块作为参数高效的激活函数，能够在保持非线性表达能力的同时大幅减少参数数量。
QKAN是本文量子启发设计的核心，理解QKAN的机制对于理解本文的创新点和性能优势至关重要。
固定预算收敛（Fixed-Budget Convergence）
固定预算收敛是一种评估模型性能的视角，关注在有限的训练资源（如固定epoch数）内模型能达到的性能。与传统的大规模模型训练不同，固定预算场景更贴近实际生产环境，其中模型需要在短时间或有限计算资源内完成训练、更新或执行。本文使用验证损失曲线下面积（Val-loss AULC）作为固定预算收敛的总结指标，通过梯形法则计算平均验证损失。Val-loss AULC越低，表明模型在固定训练预算内保持了更低的验证损失。
本文的核心视角就是资源意识下的TM预测，固定预算收敛是评估这一视角的关键指标。
研究动机
现有的流量矩阵（TM）预测方法越来越多地利用时空结构，如图神经网络（DCRNN, STGCN）、Transformer、图像类表示或扩散模型。这些方法在预测精度上有所提升，但大多是在模型容量和运行时间不是主要限制的假设下设计的。在实际运营的网络中，预测通常嵌入在在线控制循环中，模型需要在短的路由或编排间隔内完成训练、更新或执行。在边缘和云边缘设置中，将细粒度遥测数据移动到远程云端会增加带宽成本和决策延迟，而本地预测则给内存、计算和能源预算带来压力。因此，在这些资源受限的场景下，参数数量和固定预算收敛成为建模目标的一部分，而不仅仅是实现细节。
本文的目标是本文的核心目标是研究紧凑的量子启发的递归模型能否在资源意识的情况下提供有效的全矩阵TM预测。具体而言，作者将gated QKAN-FWP家族应用于Abilene TM的直接多步预测，测试其机制是否在输出是具有耦合OD结构的144通道流量矩阵时仍然有效。研究故意关注紧凑的递归模型而非添加显式的图、视觉、Transformer或扩散模块，以隔离gated量子启发快速权重设计的效果，将研究定位为精度-效率评估而非取代高容量TM预测器的声明。
与已有工作不同的是，本文的独特切入角度在于：一方面，将之前在单步时间序列预测、直接多步太阳黑子数预测和强化学习任务中验证过的gated QKAN-FWP机制扩展到空间耦合的多通道TM预测任务；另一方面，通过对比三种QKAN放置变体（G-QKANFWP将HQKAN放在快速读取中，GQKAN-FWP将HQKAN放在慢速程序员中，GQKAN-QKANFWP在两侧都使用HQKAN），系统性地评估量子启发模块在快速权重架构中的最佳位置。这种设计不仅评估了量子启发设计的有效性，还将其与经典gated快速权重框架（G-FWP）区分开来，澄清了性能提升的来源。
核心方法
本文的方法基于快速权重编程器框架，该框架用一组紧凑的动态更新的快参数替代了纯隐藏状态递归。作者将gated QKAN-FWP家族应用于Abilene流量矩阵的直接多步预测，具体任务是给定24帧（两小时）的历史，预测接下来的20帧（100分钟）。研究的核心创新是将量子启发的Kolmogorov-Arnold网络（HQKAN）与gated快速权重框架结合，通过对比三种QKAN放置变体来评估量子启发模块的最佳位置。所有模型都在固定训练预算（50个epoch，学习率0^{-3}$）下训练，使用MSE损失和Adam优化器，以参数效率-精度权衡作为评估标准。
本文的核心创新在于将量子启发的HQKAN非线性模块放置在快速权重架构的不同位置，并系统性地评估其对多通道TM预测的影响。G-QKANFWP将HQKAN放在快速读取中，使用经典慢速程序员生成HQKAN快参数的更新建议；GQKAN-FWP将HQKAN放在慢速程序员中，使用经典线性快速程序员；GQKAN-QKANFWP在两侧都使用HQKAN模块。这种设计的关键洞察是：在144通道TM预测任务中，将量子启发模块放在快速读取中与经典慢速程序员结合可能比仅放在慢速程序员或两侧都放置更有效，因为它同时保持了更新生成的简单性和读取输出的表达能力。与经典G-FWP基线的对比进一步澄清了性能提升的来源是量子启发模块本身，而不仅仅是gated快速权重框架。
方法步骤详情
方法步骤包括：首先，数据预处理阶段，将Abilene数据集的每周文件处理为五分钟TM帧，每个TM帧表示为144维的OD向量。然后，将每个帧转换为帧归一化TM（FN-TM）表示，使用公式{ij}^{( au)} = 1 - ?rac{x_{ij}^{( au)} - \min_{k,\ell} x_{k\ell}^{( au)}}{\max_{k,\ell} x_{k\ell}^{( au)} - \min_{k,\ell} x_{k\ell}^{( au)}}$将值映射到1$区间。接下来，构建时间滑动窗口用于直接多步预测，输入 \in \mathbb{R}^{24 imes 144}$包含24帧历史，目标 \in \mathbb{R}^{20 imes 144}$包含接下来的20帧。模型在一次前向传播中预测所有20个时间视界，因此RMSE@1、RMSE@10和RMSE@20是同一预测张量的切片而非自回归展开。最后，所有模型使用MSE损失、学习率0^{-3}$、5个随机种子和Adam优化器训练50个epoch，窗口按时间顺序以70/15/15的比例分割为训练、验证和测试集。
技术新颖性
本文的技术新颖性体现在多个方面：首先，这是首次将gated QKAN-FWP机制从单步时间序列预测扩展到空间耦合的多通道TM预测任务，测试了该机制在输出是具有耦合OD结构的144通道流量矩阵时的有效性。其次，通过系统性地对比三种QKAN放置变体，作者揭示了量子启发模块在快速权重架构中的最佳位置，发现在TM预测任务中，将HQKAN放在快速读取中与经典慢速程序员结合比仅放在慢速程序员或两侧都放置更有效。第三，与经典G-FWP基线的对比澄清了性能提升的来源是量子启发模块本身，而不仅仅是gated快速权重框架，这对理解量子启发设计的实际贡献至关重要。最后，研究故意避免添加显式的空间编码器（如图、视觉、Transformer或扩散模块），以隔离gated量子启发快速权重设计的效果，将研究定位为精度-效率评估而非取代高容量TM预测器的声明。
实验结果
实验结果表明，G-QKANFWP在评估的递归模型中实现了最佳的池化RMSE，达到了/bin/bash.06897 \pm 0.00030$，仅使用8,189个参数。这一结果优于匹配大小的LSTM-S（/bin/bash.07155 \pm 0.00053$）和经典G-FWP基线（/bin/bash.07038 \pm 0.00057$），并且略优于更大的LSTM-L（/bin/bash.06920 \pm 0.00019$），而仅使用了LSTM-L参数数量的22.4%。Horizon级别的结果进一步细化了这一结论：G-QKANFWP在H=1和H=20时最佳，在H=1时比LSTM-S提升约7.4%，比LSTM-L提升约2.9%。在固定预算收敛方面，G-QKANFWP具有最低的Val-loss AULC（/bin/bash.00298 \pm 0.00001$），与LSTM-L基本持平。OD通道胜率分析显示G-QKANFWP和GQKAN-FWP分别赢得了33个（22.9%）和39个（27.1%）通道，远超过LSTM-S和G-FWP的各8个（5.6%），表明量子启发模型在局部通道上具有显著优势。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Abilene流量矩阵多步预测（直接预测，FN-TM空间） | 池化RMSE | G-QKANFWP: 0.06897 ± 0.00030（8,189参数） | LSTM-L: 0.06920 ± 0.00019（36,624参数），LSTM-S: 0.07155 ± 0.00053（8,904参数），G-FWP: 0.07038 ± 0.00057（7,256参数） | G-QKANFWP比LSTM-S提升约3.6%，比G-FWP提升约2.0%，略优于LSTM-L（约0.3%）且仅使用其22.4%的参数 |
| 短期预测（H=1，5分钟前） | RMSE@1 | G-QKANFWP: 0.06229 ± 0.00053 | LSTM-L: 0.06414 ± 0.00061，LSTM-S: 0.06730 ± 0.00066，G-FWP: 0.06768 ± 0.00068 | G-QKANFWP比LSTM-S提升约7.4%，比LSTM-L提升约2.9% |
| 长期预测（H=20，100分钟前） | RMSE@20 | G-QKANFWP: 0.07130 ± 0.00025 | LSTM-L: 0.07158 ± 0.00023，LSTM-S: 0.07326 ± 0.00049，G-FWP: 0.07233 ± 0.00049 | G-QKANFWP比LSTM-S提升约2.7%，略优于LSTM-L |
| 固定预算收敛 | Val-loss AULC | G-QKANFWP: 0.00298 ± 0.00001 | LSTM-L: 0.00299 ± 0.00001，LSTM-S: 0.00332 ± 0.00002，G-FWP: 0.00353 ± 0.00010 | G-QKANFWP与LSTM-L基本持平，显著优于LSTM-S（约10.2%）和G-FWP（约15.6%） |
| 局部OD通道预测 | OD通道胜率 | GQKAN-FWP: 39/144 (27.1%)，G-QKANFWP: 33/144 (22.9%) | LSTM-L: 52/144 (36.1%)，LSTM-S: 8/144 (5.6%)，G-FWP: 8/144 (5.6%) | 量子启发模型在局部通道上显著优于匹配大小的递归基线，LSTM-L仍保持整体优势 |
局限与改进
作者承认的局限性包括：研究故意关注紧凑的递归模型而非添加显式的空间编码器（如图、视觉、Transformer或扩散模块），以隔离gated量子启发快速权重设计的效果。作者建议下一步工作是将G-QKANFWP与显式建模OD通道依赖关系的图、扩散或拓扑感知组件配对。实验设置也有一定局限性：仅使用Abilene单一数据集，未评估其他网络基准；所有模型使用相同的学习率和epoch预算，未进行详细的超参数研究，特别是学习率敏感性；未分析训练动态的更深入细节；未评估原始尺度的预测，仅在FN-TM空间进行；未测量推理成本、内存移动和边缘或网络控制平台上的实际能源使用。我观察到的额外局限性包括：研究仅关注预测精度，未考虑模型的鲁棒性、对抗攻击或分布外场景；未与更复杂的最先进TM预测方法（如LEAD扩散模型）进行直接对比，因为本研究关注的是资源受限的递归模型；FN-TM表示虽然方便，但可能与实际生产环境的在线兼容归一化不同。
独立分析的弱点
独立分析的弱点包括：首先，仅使用Abilene单一数据集限制了结论的泛化性。Abilene是Internet2骨干网络数据，其流量模式可能与云网络、边缘网络或数据中心内部网络不同。未来应在更多网络基准上验证，如GEANT、出租车流量数据或合成流量场景。其次，所有模型使用相同的学习率和epoch预算，这可能不利于某些架构。量子启发模型可能需要不同的学习率调优才能充分发挥潜力。改进方向是进行详细的学习率敏感性分析，特别是对gated QKAN-FWP家族的不同变体。第三，研究未测量实际推理成本、内存移动和能源使用，而这些都是边缘部署的关键指标。改进方向是在真实的边缘硬件上评估这些指标，并与其他轻量级模型进行对比。第四，研究未分析训练动态的更深入细节，如梯度流动、参数更新幅度或损失曲面。改进方向是使用更详细的训练诊断工具来理解为什么G-QKANFWP在TM任务上表现更好。第五，研究仅在FN-TM空间评估，这可能掩盖了在原始尺度上的性能。改进方向是开发与在线控制兼容的归一化方法并在原始尺度上评估。
未来方向
作者提出的未来研究方向包括：将G-QKANFWP与显式建模OD通道依赖关系的图、扩散或拓扑感知组件配对，将递归快速权重模块用于捕获时间演化，同时空间组件显式建模OD通道依赖关系。进行详细的超参数研究，特别是学习率敏感性分析，以及训练动态的更深入分析。扩展评估超越FN-TM空间，包括与在线控制兼容的归一化、原始尺度预测、额外的网络基准以及在边缘或网络控制平台上测量的推理成本、内存移动和能源使用。基于成果可延伸的方向包括：研究G-QKANFWP在其他时空预测任务上的适用性，如交通流量预测、能源负荷预测或天气预测；探索量子启发模块与其他递归架构（如GRU、RWKV或Mamba）的结合；研究联邦学习场景下的TM预测，其中G-QKANFWP的参数效率可能使其成为边缘设备的理想选择；开发量子启发设计的理论解释，以更好地理解其为什么在TM任务上有效。
复现评估
复现评估方面，论文提到使用了Abilene流量矩阵数据集[5]，该数据集是公开可用的。实验设置包括将每周文件处理为五分钟TM帧，每个TM帧表示为144维的OD向量，然后转换为FN-TM表示。滑动窗口构建为24帧历史预测20帧未来，窗口按70/15/15分割。所有模型训练50个epoch，使用MSE损失、学习率0^{-3}$、5个随机种子和Adam优化器。论文详细描述了模型架构、数据预处理和评估指标，这有助于复现。然而，论文未明确提供代码链接或超参数的完整列表（如隐藏层大小、批次大小等），这增加了复现难度。作者提到感谢国家高速计算中心（NCHC）提供的计算和存储资源，但未明确说明使用的硬件配置。总体而言，论文提供了足够的细节来理解实验设计，但代码和数据可用性的缺乏使得完全复现存在一定挑战。建议作者发布代码、完整超参数列表和预处理后的数据集，以提高可复现性。
论文图表
这个表格总结了所有评估模型在Abilene全矩阵直接预测任务中的参数数量和RMSE指标。表格包含6行（LSTM-L、LSTM-S、G-FWP、G-QKANFWP、GQKAN-FWP、GQKAN-QKANFWP）和5列（Params、RMSE@1、RMSE@10、RMSE@20、RMSE pooled）。每个单元格显示均值±标准差，基于5个随机种子。表格中的粗体和下划线分别指示每列中最低和次低的误差。从这个表格可以清晰地看到：G-QKANFWP在池化RMSE上最佳（0.06897），使用8,189个参数；G-QKANFWP比LSTM-S提升约3.6%，比G-FWP提升约2.0%，略优于LSTM-L且仅使用其22.4%的参数；GQKAN-FWP和GQKAN-QKANFWP也优于LSTM-S，但落后于G-QKANFWP和LSTM-L。
这个表格对理解论文至关重要，因为它提供了所有评估模型的定量性能对比。从这个表格，读者可以直接比较不同模型的精度-效率权衡，理解G-QKANFWP的优势所在。表格还显示了Horizon级别的性能差异，帮助读者理解模型在不同预测视界上的表现。这是论文的核心实验结果，支持了主要结论。
这个表格比较了所有评估模型的OD通道胜率和Val-loss AULC性能。表格包含6行和3列：OD wins（OD通道胜数）、OD win rate（OD通道胜率）和Val-loss AULC。从表格可以看到：LSTM-L在144个通道中赢得了52个（36.1%），GQKAN-FWP赢得了39个（27.1%），G-QKANFWP赢得了33个（22.9%），而LSTM-S和G-FWP各只赢得8个（5.6%）。在Val-loss AULC方面，G-QKANFWP最低（0.00298），与LSTM-L（0.00299）基本持平，而所有三个量子启发变体的Val-loss AULC都低于LSTM-S（0.00332）和G-FWP（0.00353）。这表明量子启发模型在固定预算收敛方面具有优势。
这个表格对理解论文很重要，因为它提供了补充的聚合精度指标。OD通道胜率分析揭示了量子启发模型提供的局部化优势，而Val-loss AULC则显示了固定预算训练曲线的优势。这两个指标补充了Table I中的RMSE指标，提供了更全面的性能评估，帮助读者理解量子启发模型的优势不仅仅在于最终的测试RMSE，还在于训练过程中的收敛行为和局部通道上的表现。