受控自进化算法用于代码效率优化 Controlled Self-Evolution for Algorithmic Code Optimization

CSE 的执行流程包含以下步骤。步骤一：多样化规划初始化。给定问题规范 $x$，提示智能体 $A_\theta$ 在多样性约束下生成 $N_{init}$ 个高层策略草图 $Z = \{z_1, \ldots, z_{N_{init}}\}$，每个草图代表语义上不同的算法策略。然后将每个草图实例化为具体代码：$y^{(0)}_i \sim A_\theta(y | x, z_i)$，形成初始种群 $P_0$。步骤二：遗传进化迭代。在每一代 $t$，首先通过概率选择选择父代，选择概率与归一化奖励成正比：$P_{select}(y^{(t)}_i) = F(y^{(t)}_i, x) / \sum_{j=1}^{|P_t|} F(y^{(t)}_j, x)$。然后从全局记忆 $M_{glb}$ 中检索相关经验 $E_{ret}^t$，与局部记忆 $M_{local}^{t-1}$ 一起作为上下文。在此上下文下，应用受控变异或组合交叉生成子代。评估子代后，计算奖励变化 $\Delta_t = F(y^{(t)}_{child}, x) - F(y^{(t)}_{parent}, x)$，更新局部记忆：$m_t \leftarrow \text{Reflect}(y^{(t)}_{child}, y^{(t)}_{parent}, \Delta_t)$，$M_{local}^t \leftarrow \text{Compress}(M_{local}^{t-1} \cup \{m_t\})$。步骤三：全局记忆更新。任务完成后，收集所有进化步骤，保留 Top-K 改进步骤 $S^+_\tau$ 和 Top-K 退步步骤 $S^-_\tau$，由 LLM 蒸馏任务级全局经验 $g_\tau$ 并存入向量数据库：$g_\tau \leftarrow \text{Reflect}(S^+_\tau, S^-_\tau, y^*_\tau)$。

CSE 的技术新颖性体现在多个层面。首先，多样化规划初始化是全新的思路：不同于以往从基础模型直接生成多个候选解或对单个解添加随机扰动，CSE 先生成高层策略草图再实例化，确保初始种群在算法策略层面（而非代码层面）具有结构性差异。其次，受控变异和组合交叉是进化代码优化领域的首创：通过功能分解将代码拆分为不相交的功能组件，使得变异可以精确定位到有缺陷的组件，交叉可以结构化地组合不同父代的优势组件。这种'外科手术式'的进化操作避免了随机变异对全局上下文的破坏性干扰。第三，层级进化记忆的双层设计（局部记忆 + 全局记忆）也是新颖的：局部记忆通过压缩机制防止溢出，同时提供成功经验和失败教训的双向引导；全局记忆通过向量数据库和检索机制实现跨任务经验的精确调用。实验表明，记忆模块与进化模块的协同效应最为显著（$\Delta MI = +2.68$），而与规划模块单独组合时效果有限（$\Delta MI = -0.23$），这说明记忆的价值在于放大受控进化的效果，而非提供独立的改进。

CSE 存在几个值得关注的弱点。第一，计算开销问题：CSE 需要维护种群、执行功能分解、检索全局记忆、进行反馈引导的变异和交叉，每个操作都需要额外的 LLM 调用。在 30 代预算下，实际的推理次数可能远超直接生成或自反思方法，这在延迟敏感的场景中可能不实用。改进方向：可以探索轻量级的功能分解（如基于静态分析而非 LLM）或缓存机制来减少 LLM 调用次数。第二，功能分解的可靠性：CSE 的受控变异依赖于将代码准确分解为不相交的功能组件，但 LLM 的分解可能不完美，特别是对于复杂的算法实现。如果分解不准确，定向变异可能破坏组件间的依赖关系。改进方向：可以引入验证机制，确保分解后的组件在替换后仍能正确协作。第三，全局记忆的检索精度：CSE 使用向量数据库存储跨任务经验，但检索的质量取决于查询生成和向量表示的质量。在任务多样性较高时，检索到的经验可能与当前任务相关性较低。改进方向：可以引入更精细的检索策略，如基于代码结构相似性或算法类型匹配。第四，对基础模型能力的依赖：如前所述，CSE 在较弱模型上的提升有限，这限制了其适用范围。

作者明确提出了一个重要的未来方向：将 CSE 的进化轨迹蒸馏为强化学习训练信号，以增强基础模型。具体而言，可以将 CSE 的进化过程视为一个序列决策问题，其中每个进化步骤对应一个动作（变异、交叉或保留），奖励由执行效率决定。通过 RL 风格的训练（如 PPO 或 DPO），可以将 CSE 的'如何优化代码'的知识注入基础模型，使其在单轮生成中就能产出更高效的代码。基于 CSE 的成果，还有几个可延伸的方向：（1）多目标优化：当前 CSE 主要优化执行时间和内存的积分，未来可以扩展为同时优化代码可读性、维护性等软件工程指标；（2）跨语言迁移：利用全局记忆机制在不同编程语言间迁移优化经验，例如将 Python 的优化策略迁移到 C++；（3）自适应预算分配：根据任务难度和进化进展动态调整每个任务的探索预算，而非固定的 30 代；（4）与代码搜索结合：将 CSE 与代码仓库搜索结合，利用现有开源代码作为进化的起点或交叉来源。

CSE 的复现条件相对友好。作者已将代码开源在 GitHub（https://github.com/QuantaAlpha/EvoControl），这大大降低了复现门槛。实验使用 EffiBench-X 基准，该基准本身是公开的，包含 623 个问题和完整的测试用例。在算力方面，实验涉及四个 LLM 骨干模型，其中两个是开源的（Qwen3-235B-A22B、DeepSeek-V3-0324），两个是闭源的（Claude-4.5-Sonnet、GPT-5）。使用开源模型复现是可行的，但需要较大的 GPU 资源来运行 235B 参数的模型。使用闭源模型则需要 API 访问权限和相应的费用。每个任务的 30 代进化预算意味着每个任务需要 30 次以上的 LLM 调用（包括功能分解、策略生成、变异/交叉、反思等多个步骤），总调用量可能达到数百次，这在大规模实验中需要显著的计算资源。总体而言，复现难度中等：代码和数据公开，但需要较大的算力投入。