生成式量子启发柯尔莫哥洛夫-阿诺尔德本征求解器 Generative Quantum-inspired Kolmogorov-Arnold Eigensolver
用HQKAN模块替换GPT-2式GQE中的重型FFN，参数缩减66%且保持化学精度。
前置知识
变分量子本征求解器 (VQE)
一种混合量子-经典算法，在固定的参数化线路（ansatz）内通过经典优化器调整量子门参数，最小化哈密顿量期望值 $\langle\psi(\theta)|\hat{H}|\psi(\theta)\rangle$。VQE 是 NISQ 时代的主流基态求解器，但其性能受 ansatz 设计、噪声与贫瘠高原（barren plateau）影响。
本文提出的 GQKAE 是 VQE 的替代思路，不再优化连续参数，而是让经典生成模型直接构造量子线路，因此需要理解 VQE 的局限才能看懂 GQE/GQKAE 的动机。
生成式量子本征求解器 (GQE)
GQE 把基态求解重写为"算符序列的自回归采样"问题：从一个预定义的酉算符池（如 UCCSD 池 $\mathcal{G}=\{\hat{U}_j\}$）中，让经典生成器（典型为 GPT-2 解码器）按顺序选取 $L$ 个算符 $\mathbf{j}=(j_1,\ldots,j_L)$ 组成线路 $\hat{U}_L(\mathbf{j})=\hat{U}_{j_L}\cdots\hat{U}_{j_1}$，并把线路准备态的能量作为奖励信号训练生成器。
GQKAE 是 GQE 框架的参数高效扩展，要看懂 HQKAN 替换了什么、为什么这样替换，必须熟悉 GQE 的自回归算符采样机制和 GRPO 训练目标。
量子选态构型相互作用 (QSCI)
QSCI 不直接估计哈密顿量期望值，而是对线路制备态在计算基下重复测量 $N_{\text{shots}}$ 次得到采样比特串集合 $D^{(j)}$，保留出现频率最高的 $d_{\max}$ 个 Slater 行列式张成子空间 $\mathcal{S}^{(j)}=\text{span}\{|x\rangle: x\in D^{(j)}_{d_{\max}}\}$，在该子空间中对投影哈密顿量 $H^{(j)}_{mn}=\langle x_m|\hat{H}|x_n\rangle$ 做经典对角化，得到 $E_{\text{QSCI}}^{(j)}=\min_{|\phi\rangle\in\mathcal{S}^{(j)}}\langle\phi|\hat{H}|\phi\rangle$。
QSCI 提供 GQKAE 的奖励信号 $r(\mathbf{j})=-E_{\text{QSCI}}(\mathbf{j})$，理解它的"采样-截断-经典对角化"流程是看懂训练闭环的关键。
柯尔莫哥洛夫-阿诺尔德网络 (KAN) 与 DARUAN 激活
KAN 把 MLP 中"节点上的固定激活"换成"边上的可学习一元函数 $\phi_{l,j,i}(\cdot)$"，多元函数被分解为 $x^l_{j}=\sum_i \phi_{l,j,i}(x^l_i)$，参数更省、逼近能力更强。本文用量子启发的 DARUAN（DatA Re-Uploading ActivatioN）模块实现每条边的激活：$\phi(x;\vartheta)=\langle 0|\hat{U}^\dagger(x;\vartheta)\hat{M}\hat{U}(x;\vartheta)|0\rangle$，即单比特数据重传线路的期望值。
GQKAE 的核心创新就是用 DARUAN-KAN 替换 Transformer 的 FFN，所以必须理解 DARUAN 作为"量子启发激活函数"如何在参数极少的情况下提供富频谱的非线性映射。
GRPO 与自回归策略梯度
Group Relative Policy Optimization 是一种 token 级 PPO 变体：把同一批次 $M$ 条样本的奖励标准化为相对优势 $\hat{A}^{(m)}=(r^{(m)}-\bar{r})/\sigma_r$，再用截断重要性比率 $\rho^{(m)}_t(\theta)=p_\theta/p_{\theta_{\text{old}}}$ 与 $\hat{A}^{(m)}$ 构造损失 $\mathcal{L}_{\text{GRPO}}=-\frac{1}{M}\sum_m\frac{1}{N}\sum_t\min(\rho^{(m)}_t\hat{A}^{(m)}, \text{clip}(\rho^{(m)}_t,1\pm\epsilon)\hat{A}^{(m)})$，避免在长序列采样上做蒙特卡洛梯度估计。
GQKAE 训练的是离散线路采样策略，GRPO 是它唯一的优化器；理解截断目标和相对优势才能解释为什么短批次（$M=10$）也能稳定收敛。
研究动机
在 NISQ 时代的量子化学 HPC 流水线里，电子结构预处理、量子线路模拟、QSCI 后处理必须紧耦合才能跑得动。但当分子活性空间、UCCSD 算符池和线路长度 $L$ 同时增大时，承载 GQE 的 GPT-2 主干会发生严重的"经典侧膨胀"问题：每个 Transformer 块的 position-wise FFN 都是两层仿射加固定激活，$\text{FFN}(h)=W_2\sigma(W_1 h+b_1)+b_2$，中间维度 $d_{\text{ff}}$ 通常远大于隐层维度 $d$，因此 FFN 占据了模型绝大多数参数（如本文中 GQE 在 H4 上要 55.26M 参数、约 162.9 MB 内存）。这部分开销直接挤占了 HPC 中用于量子线路模拟、QSCI 对角化的显存和算力，使得"经典生成器 + 量子线路 + 经典后处理"三段管线难以在单台 GPU 节点上闭环。
本文的目标是本文目标是把 GQE 的经典主干由"重型 GPT-2"替换为"参数极省但保持表达力"的 HQKANsformer，目标是：(1) 在 H4、N2、LiH、C2H6、H2O、H2O dimer 六个基准上达到 1.6 mHa 的化学精度；(2) 把可训练参数和参数内存同步缩减约 66%（从约 42.7M / 162MB 降到约 14.5M / 42-55MB）；(3) 在不增加量子线路深度的前提下，让电路生成墙钟时间有 6.8%~16.7% 的加速。
与已有工作不同的是，已有的 KAN-based Transformer（如 KAT）虽然在 Transformer 里引入 KAN 模块提升了训练性，但 grouped edge function 数量随层维度线性增长，难以直接扩展到 LLM 级的生成器。QKAN-LSTM 等工作主要聚焦时序模型。本文观察到：把 QKAN 放进 GPT-2 块时不必占用满 $d$ 维隐层，只需用 encoder 把 $d$ 维投影到 $d_z=12$ 的压缩潜空间，再让 QKAN 处理这条窄带，最后用 decoder 投回 $d$ 维——这是把"量子启发激活"嫁接到生成式量子算法的首个参数高效变体，并配合 cuQuantum/FlashQKAN 把推理提速。
核心方法
GQKAE 的整体思路是"生成式采样 + 量子评估 + 量子启发压缩主干"三段式：先用自回归策略从 UCCSD 算符池 $\mathcal{G}$ 中逐 token 采样长度为 $L$ 的算符序列 $\mathbf{j}=(j_1,\ldots,j_L)$，由此确定量子线路 $\hat{U}_L(\mathbf{j})$ 制备尝试态；对尝试态做 $N_{\text{shots}}$ 次测量，按出现频率截取前 $d_{\max}$ 个 Slater 行列式并做经典对角化得到 $E_{\text{QSCI}}(\mathbf{j})$；把 $-E_{\text{QSCI}}$ 作为奖励，用 GRPO 更新生成器参数。技术路线上，把 GPT-2 中每个块的 FFN 替换为"线性编码 → DARUAN-QKAN 潜空间处理 → 线性解码"的 HQKAN 模块，潜空间维度 $d_z=12$，依靠 DARUAN 单比特数据重传线路提供的富频谱非线性来补偿维度压缩。
GQKAE 与原始 GQE 的本质区别仅在于 Transformer 块内的非线性变换：原 GQE 用 $W_2\sigma(W_1 h+b_1)+b_2$ 的密集 MLP，GQE 风格的瓶颈在 FFN；GQKAE 改成 Encoder → QKAN(DARUAN 激活) → Decoder 的 HQKAN 瓶颈结构，DARUAN 把每条边的一元函数实现为参数化数据重传线路的期望值 $\phi(x;\vartheta)=\langle 0|\hat{U}^\dagger(x;\vartheta)\hat{M}\hat{U}(x;\vartheta)|0\rangle$，因重传次数带来 Fourier 频谱扩展，单条边只需很少的量子参数就能拟合高度非线性；再加上 DARUAN 模块本身可由 cuQuantum 当成张量网络化简、cuTe 做 fused kernel 拼装，从而在减少参数的同时也降低推理时延。
方法步骤详情
完整训练步骤如下：(1) 取 UCCSD 池 $\mathcal{G}=\{\hat{U}_j\}$，按 HOMO-LUMO 对称地构造 (e,o) 活性空间；(2) HQKANsformer（decoder-only transformer，每层 attention 后面接 HQKAN 而非 FFN）自回归生成 $L$ 个算符 token $j_1,\ldots,j_L$，即 $p_\theta(j_k|j_{<k})$ 经 $L$ 层后做 softmax 得 $o_k=W_{\text{out}}h_k^{(L)}+b_{\text{out}}$；(3) 对生成的线路在 HF 参考态上做 $N_{\text{shots}}=10^5$ 次测量，按出现频率取前 $d_{\max}=2000$ 个 Slater 行列式 + 对称补全，构成子空间 $\mathcal{S}^{(j)}$；(4) 在子空间中对投影哈密顿量做对角化得 $E_{\text{QSCI}}(\mathbf{j})$；(5) 取奖励 $r(\mathbf{j})=-E_{\text{QSCI}}(\mathbf{j})$，批内标准化得优势 $\hat{A}^{(m)}=(r^{(m)}-\bar{r})/\sigma_r$；(6) 用 GRPO 损失 $\mathcal{L}_{\text{GRPO}}$ + AdamW（$\text{lr}=5\times10^{-6}$，weight decay 0.01，每个 batch 30 个策略更新、重复惩罚 1.2）更新 $\theta$；迭代 100 次，每轮采样 $M=10$ 条线路，全部在 NVIDIA HGX H200 上用 CUDA-Q 模拟。
技术新颖性
技术新颖性体现在三点：(a) 首次把 DARUAN 量子启发激活函数引入生成式量子算法主干预训练中，验证了 KAN-style 边函数在量子化学采样任务上的可行性；(b) 提出 encoder-processor-decoder 形式的 HQKAN 瓶颈结构（$d_z=12$），并以 QKAN 的 $\mathcal{O}(\log(1/\epsilon))$ 逼近复杂度为理论基础，证明 $\sim$66% 的参数压缩不损害逼近精度；(c) 利用 FlashQKAN 把每个 QKAN 层表示为张量网络、配合 cuQuantum 优化缩并路径、cuTe DSL 做 fused 算子分块，使参数减少同时推理也变快。
实验结果
(1) 量子门资源：GQKAE 与 GQE 在 6 个分子上的 2-qubit 门数与总门数都远小于 UCCSD-VQE——以 H2O 为例，VQE 需要 36,480 个 2-qubit 门 / 81,032 个总门，而 GQKAE 仅 747.6±5.55 个 2-qubit 门 / 2,334.2±22.95 个总门，H2O dimer 上 VQE 同为 36,480 / 81,032、GQKAE 为 286.4±2.19 / 878.8±20.08，H4/ N2/ LiH/ C2H6 上的削减比也都在 30×~100× 区间。(2) 经典侧开销：H4/N2/LiH/C2H6 上 GQE 用 55.26M 参数 / 162.88MB 内存，GQKAE 统一压到 14.3-14.5M / 42.6-42.7MB；H2O 和 (H2O)2 因隐层维度差异，参数由 42.8M 减到 14.6M，内存由 ~163MB 减到 ~55.5MB。墙钟时间上 H4 由 216.6s 降到 198.1s（13.6%）、N2 由 326.7s 降到 292.8s（9.0%）、LiH 由 283.3s 降到 263.1s（9.8%）、C2H6 由 218.8s 降到 200.1s（16.7%）、H2O 由 254.8s 降到 242.6s（6.8%）、H2O dimer 由 247.2s 降到 197.0s（13.3%）。(3) 化学精度：在 1.6 mHa 阈值下 6 个分子全部达到化学精度，强关联体系 N2、LiH、H2O 上 GQKAE 比 GQE 最终能量误差更低、收敛更快（图 3b、3c、3e 蓝紫线在更早迭代就跌到化学精度线以下）。(4) PES：6 个分子的势能面（图 4）都贴着 CASCI 黑线走，C2H6 内旋转势垒 GQKAE 预测 0.122 eV（0.00448 Ha）、GQE 0.125 eV（0.004599 Ha），均与实验 ~0.13 eV 吻合；H2O 键角扫描和 H2O dimer 间距扫描都光滑复现势阱。(5) 鲁棒性：在 H2O 平衡角 104.5° 上 $d_{\max}=2000$ 固定时，$N_{\text{shots}}=10^4$ 即跨过 1.6 mHa；$N_{\text{shots}}=10^5$ 固定时 $d_{\max}=100$ 即达到化学精度，>1000 后误差持平，且 GQE 与 GQKAE 在 shot/$d_{\max}$ 两个扫描上的曲线几乎重合，说明参数压缩未损失采样分布质量。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| H4 CAS(4e,4o) 6-31G 键长 0.88 Å 线路门数 (2-qubit) | 2-qubit gates | 100.0 ± 3.7 | VQE: 1,312 | 约 13× 削减 |
| N2 CAS(10e,8o) STO-3G 键长 1.1 Å 线路门数 | 2-qubit gates | 506.8 ± 13.1 | VQE: 31,760 | 约 63× 削减 |
| LiH CAS(4e,10o) 6-31G 键长 1.6 Å 线路门数 | 2-qubit gates | 391.6 ± 14.3 | VQE: 41,600 | 约 106× 削减 |
| H2O CAS(8e,8o) cc-pVDZ 平衡角 线路门数 | 2-qubit gates | 747.60 ± 5.55 | VQE: 36,480 | 约 49× 削减 |
| H2O dimer CAS(8e,8o) cc-pVDZ 距离 2.9 Å | 2-qubit gates | 286.40 ± 2.19 | VQE: 36,480 | 约 127× 削减 |
| H4 参数/内存压缩 | Params (M) / Memory (MB) | 14.3 / 42.6 | GQE: 55.26 / 162.90 | 参数 -74%、内存 -74% |
| H2O 参数/内存压缩 | Params (M) / Memory (MB) | 14.6 / 55.48 | GQE: 42.8 / 163.12 | 参数 -66%、内存 -66% |
| C2H6 内旋转势垒 | Torsional barrier (eV) | 0.122 (0.00448 Ha) | GQE: 0.125 eV; 实验 ~0.13 eV | 与实验值偏差 < 7% |
局限与改进
作者承认的局限：(a) 线路长度 $L$ 必须人工指定（H4=20、N2=90、LiH=70、C2H6=20、H2O=130、H2O dimer=50），缺少自动确定 $L$ 的机制；(b) 所有数值结果均在 CUDA-Q 经典模拟器上得到，未在真实量子硬件上验证噪声鲁棒性；(c) 算符池仍是 UCCSD-derived，$d_{\max}=2000$ 的截断在 $N_2$ 1.0-2.0 Å 区段产生明显标准差（图 5b），说明该强关联区段对采样分布敏感；(d) 训练阶段 $M=10$、$N_{\text{iter}}=100$ 较小，未讨论更大规模训练是否仍稳定。我自己观察到的局限：(e) DARUAN 模块虽然节省参数，但其量子参数本身未被任何"量子资源"约束——本质上仍是经典参数化的非线性激活，这与"quantum-inspired"的命名一致但容易让读者高估其量子优势；(f) 加速比只有 6.8%~16.7%，在 H2O 这种相对长的序列上甚至接近可忽略，因此"参数-时延"权衡的工程价值有限，更像是副产品；(g) 没有报告 DARUAN 内部重传层数、参数初始化方式、潜空间维度 $d_z$ 的消融实验，$d_z=12$ 是怎么选出来的仍不清楚。
独立分析的弱点
(1) 手动指定 $L$ 的问题——$L$ 是控制量子线路深度最敏感的旋钮，$L$ 偏大浪费门资源、$L$ 偏小表达力不够。改进方向：引入 Graph Neural Network 编码器（作者已提出作为 future work），让 $L$ 与分子拓扑/活性空间大小关联起来，并支持 zero-shot 跨分子迁移。(2) DARUAN 模块缺乏消融——目前看不出潜空间维度 $d_z=12$、DARUAN 重传次数、QKAN 深度各自贡献了多少表达力。改进方向：补一组 $d_z\in\{4,8,12,16,24\}$、重传层数 $\in\{1,2,3,4\}$ 的消融表，明确参数-精度-时延的 Pareto 前沿。(3) 量子优势未被充分利用——DARUAN 是经典模拟的量子线路期望值，但没有任何"对应真实量子硬件等价物"的对照实验。改进方向：在 IBM/IonQ 真实硬件上跑 DARUAN 线路，验证"经典模拟的 DARUAN"与"真实量子 DARUAN"在同一算符池上的误差差异，让 quantum-inspired 真正闭环到真实量子优势。(4) 奖励信号单一——目前只用 $E_{\text{QSCI}}$，缺少方差正则、circuit depth penalty、entanglement-based reward。改进方向：构造多目标 reward，把门数、CNOT 数、子空间熵等显式加到 GRPO 优势里，缓解 N2 解离区段因静态关联导致的高方差。(5) 6 个分子集中在 8-20 量子比特的小活性空间，对更大分子（>40 qubits）的可扩展性尚无证据。改进方向：补 (12e,12o)/(16e,16o) 级别的基准，比较 HQKANsformer 与 GQE 在更深、更长算符序列下的收敛稳定性。
未来方向
作者明确指出的方向：(a) 把 GNN 引入 encoder 以自动确定 $L$ 并实现跨分子零样本迁移；(b) 在真实量子硬件上部署已训练线路，结合错误缓解验证实际可用性。基于结果可延伸的方向：(c) 把 QKAN 推广到 GQE 的 attention 子层（不只是 FFN），构造完全量子启发的 attention 模块；(d) 探索 DARUAN 中测量观测量 $\hat{M}$ 的学习化（如把 $\hat{M}$ 也当作可训练算符）以进一步提升边函数表达力；(e) 与 VQE-ADAPT、layer-VQE 等自适应 ansatz 做 head-to-head 比较，明确 GQKAE 在贫瘠高原规避与深度缩减上的取舍；(f) 预训练 + 微调：在小分子族上预训练 HQKANsformer，再对目标分子做 few-shot 微调，把 14.5M 参数的小模型推向 LLM 式的复用性。
复现评估
复现评估：作者明确给出了训练超参与硬件清单——AdamW $\text{lr}=5\times10^{-6}$、weight decay 0.01、$M=10$、$N_{\text{shots}}=10^5$、$N_{\text{iter}}=100$、每个 batch 30 次策略更新、重复惩罚 1.2、$d_{\max}=2000$、潜空间 $d_z=12$、CLIP 参数 $\epsilon$（未给具体值），在 NVIDIA HGX H200 单机上用 CUDA-Q + cuQuantum + cuTe DSL。代码方面 QKAN 来自 https://github.com/Jim137/qkan，GQE-for-QSCI baseline 来自 https://github.com/moken20/gqe-for-qsci，PySCF 做 HF/CCSD/SCI、PyCI 做 CASCI 参考，CUDA-Q 做 VQE 与线路模拟。开源程度中等——模型代码主要依赖第三方仓库，作者没有把所有脚本打包成端到端 pipeline，因此复现难度主要在于：(1) 整合 QKAN + GPT-2 + GRPO + CUDA-Q + cuQuantum 的版本兼容；(2) DARUAN 内部超参（重传次数、初始化）需自行摸索；(3) 对真实硬件部署无参考脚本。整体而言，复现实验设置难度中等，但完全复现论文全部曲线需要 H200 级 GPU 资源与多软件栈协同。
论文图表
固定 $N_{\text{shots}}=10^5$，横轴 $d_{\max}$ 取 $10^2-10^4$；$d_{\max}\approx 100$ 即达化学精度，>1000 后误差持平，GQKAE 与 GQE 曲线高度重合。
与 Fig. 6 配对，证明 GQKAE 对 QSCI 子空间截断也具备与 GQE 同样的鲁棒性，从硬件实现角度排除"为了节省参数而不得不增大子空间"的隐忧。
列出了 6 个分子在 VQE、GQE、GQKAE 三种方法下的 2-qubit 门数与总门数（含 ±std），结果用 bold 标注最佳项；GQKAE 在大多数分子上与 GQE 相当且均显著低于 VQE。
该表量化了"经典生成器节省下来的开销如何转化为量子线路资源"，是 GQKAE 量子侧优势的主证据，对评估 NISQ 可执行性至关重要。
列出了 H4/N2/LiH/C2H6 上 GQE 用约 55.26M 参数 / 162.88MB，GQKAE 降到 14.3-14.5M / 42.6-42.7MB；H2O 与 (H2O)2 上由 42.8M / 163MB 降到 14.6M / 55.5MB；并给出墙钟时间从 6.8% 到 16.7% 的 speedup 列。
这张表是本文"~66% 参数和内存缩减"核心结论的直接数字来源，也是 HPC 资源开销评估的主要依据。