用大语言模型对齐量子算子 Aligning Quantum Operators with Large Language Models

方法包含两个核心组件：PTM-语言对齐和逐步自回归合成。步骤如下：1) PTM 编码器：$256 \times 256$ PTM 分割成 $16 \times 16$ 个非重叠 patch，$V = 256$ 个 patch 向量维度 256，每个 patch 通过线性层 $W_{\text{patch}}$ 投影到隐藏维度 $h_v = 768$，$z_j = \text{LayerNorm}(W_{\text{patch}} p_j + e_j)$，添加学习位置嵌入 $e_j$。2) MLP 投影器：两层 MLP，$v_j = W_2 \text{GELU}(W_1 z_j)$，$W_1 \in \mathbb{R}^{4h_v \times h_v}$，$W_2 \in \mathbb{R}^{d_{\text{LLM}} \times 4h_v}$，将 PTM 嵌入映射到 LLM 维度。3) 输入构建：$V = 256$ 个视觉 token 预置到文本 token 嵌入之前，形成输入 $[v_1, ..., v_V, t_1, ..., t_L]$。4) 逐步合成：考虑目标电路 $U = g_{T-1} \cdots g_1 g_0$，按逆执行顺序预测 $g_{T-1}, g_{T-2}, ..., g_0$，剩余 PTM 初始化为 $P^{(0)} = \text{PTM}(U)$，在步骤 $t$，模型观测剩余 PTM $P^{(t)}$ 并预测最左边剩余因子，预测门 $\hat{g}$ 后更新剩余 PTM $P^{(t+1)} = \text{PTM}(\hat{g})^{-1} P^{(t)} = \text{PTM}(\hat{g})^\top P^{(t)}$。5) 训练：每个训练样本对应单个合成步骤，给定当前剩余 PTM $P^{(t-1)}$，预测下一个门 $a_t$，损失函数 $\mathcal{L} = -\log p_\theta(a_t | v_1, ..., v_V, h_1, ..., h_H, q_1, ..., q_Q)$，其中 $v$ 是视觉 token，$h$ 是上下文 token（当前保真度和最近预测的门），$q$ 是指令 token。6) 两阶段训练：阶段 1 仅优化视觉编码器和投影器，LLM 冻结（约 7K 步，学习率 $10^{-3}$，cosine 衰减）；阶段 2 联合优化所有参数，使用差分学习率 $\eta_{\text{LLM}}$ 和 $\eta_{\text{proj}} \approx 4\eta_{\text{LLM}}$，采用 Warmup–Stable–Decay 调度（线性预热、75% 常数、最后 25% 衰减到 5%）。训练数据在迭代中合成生成：每步采样随机 Clifford+T 电路长度 $K$，使用 $K+1$ 个逐步分解（包括最终 END 预测）作为训练示例。

技术新颖性体现在三个方面：1) 表示创新：首次将 PTM 这种量子算子表示映射到 LLM 嵌入空间，利用 PTM 的实值性、全局相位不变性和乘法性质；2) 架构创新：受视觉-语言模型启发，但针对量子表示定制编码器和投影器，引入的外部 PTM 更新机制作为 scratchpad 减轻模型内部状态维护负担；3) 任务创新：首个支持语言条件化量子电路综合的方法，可以在推理时通过自然语言指定训练期间未见过的约束，解锁了通用量子编译器的能力。框架是表示无关的：其他量子对象（Clifford tableaux、Pauli 算子列表、张量网络描述）可通过模态特定编码器投影到同一 LLM 嵌入空间，为大规模量子编译提供模块化路径。

独立分析的弱点包括：1) 表示缩放限制：PTM 的 4^n × 4^n 复杂度限制了到 5-6 量子比特的扩展，改进方向是探索稀疏表示、近似 PTM 或直接在酉空间工作；2) 分布外泛化：Haar Random Unitaries 上保真度低，改进方向是增加训练多样性（更长电路、不同门集、对抗采样）或使用领域适应技术；3) 门集限制：仅测试 Pauli 旋转门集，未探索其他门集（CNOT+单量子比特门、T 门、sqrt(SWAP) 等），改进方向是在多门集上训练和评估；4) 缺乏验证：未报告模型在真实量子硬件上的性能，改进方向是连接到实际量子后端，测量门计数、电路深度、硬件保真度；5) 约束简单：仅测试简单放置约束（门不能作用某些量子比特），未探索更复杂约束（最大电路深度、门计数预算、特定门禁止），改进方向是扩展约束语言和训练数据；6) 长电路合成：虽然训练到 150 门，但评估主要集中在 1-15 门，长电路上的性能未充分评估，改进方向是报告更长电路（50-200 门）的结果。

作者提出的未来方向包括：缩放到更大量子比特数和更深电路；用（潜在）推理和 GRPO 进一步增强恢复能力和最优性；incorporation 不同电路和算子表示。基于成果可延伸的方向包括：探索解释合成选择、交互式调试、潜在解锁量子状态上的链式推理（类似 LLM 中的等待和顿悟时刻）；将框架应用于其他量子任务（量子算法发现、量子错误纠正、量子验证）；探索量子-语言模型统一文本上下文、指令跟随和直接算子推理的系统；将 GRPO 等 RL 方法应用于 SFT 训练模型作为微调阶段；结合扩散模型和 LLM 的混合生成范式；探索量子表示的因果推理和反事实推理。

复现评估：作者计划公开发布模型和代码以支持进一步研究。训练在 2 节点 × 8 GPU 上进行，有效批大小 64，使用 Granite 4.0 Micro（3B 参数）作为 LLM 主干。训练数据是合成生成的，利用计算酉矩阵容易而逆问题难的对称性，每步采样随机 Clifford+T 电路长度 K，使用 K+1 个逐步分解。评估在 2000 个保留电路上进行，使用保真度阈值 0.999。推理约 1 秒每样本（单 H100 GPU）或 80 秒（Best-of-80）。代码未提供，但描述足够详细（编码器架构、MLP 投影器、两阶段训练、损失函数、PTM 更新规则）。超参数报告完整（patch size P=16、隐藏维度 h_v=768、阶段 1 学习率 10^-3、WSD 调度）。数据合成过程可复现（随机 Clifford+T 电路、Pauli 旋转门集）。算力需求高（2 节点 × 8 GPU、9.2M 训练电路），但小规模实验（145K 电路）可在更少资源上运行。实验充分（数据缩放、推理时缩放、基线对比、消融研究、分布外评估、文本条件化）。局限性报告坦诚（PTM 缩放限制、分布外泛化不足）。