Self-EvolveRec：基于LLM定向反馈的自进化推荐系统 Self-EvolveRec: Self-Evolving Recommender Systems with LLM-based Directional Feedback

方法的具体步骤分为四个阶段，形成一个迭代进化循环：1) 多方面评估：对当前选择的代码库 $B_{parent}$ 进行评估，获取标量分数 $score(B_{parent})$，同时生成用户反馈 $R_{SIM}$ 和诊断报告 $R_{DIAG}$。用户模拟器通过采样用户集 $U_{sample}$，对每个用户 $u$ 基于其画像 $T_u$ 和交互历史 $H_u$ 评估推荐列表 $A_u$，生成个体反馈报告 $R_u = LLM(I_{SIM}, T_u, H_u, A_u)$，然后汇总为综合反馈 $R_{SIM} = LLM(I_{SUMMARIZE}, \{R_u | u \in U_{sample}\})$。诊断工具通过两个基础探针（嵌入塌陷检测和排名边距分析）生成原始诊断分析 $D_{raw} = DIAG^{(t)}(B^{(t)})$，然后由LLM解释为结构化诊断报告 $R_{DIAG} = LLM(I_{DIAG}, D_{raw})$。2) 反馈感知的规划与检索：基于 $R_{SIM}$ 和 $R_{DIAG}$ 的定向反馈，LLM代理制定针对性的研究查询 $Q = LLM(I_{PLAN}, R_{SIM}, R_{DIAG}, P^{(t)})$，从arXiv等来源检索相关学术文献 $K$，然后整合为开发报告 $R_{Dev} = LLM(I_{REPORT}, R_{SIM}, R_{DIAG}, P^{(t)}, K)$，概述所需的算法修改。3) 代码进化：基于 $R_{Dev}$ 的指导，LLM代理实施代码级修改，生成更新的代码库 $B^{(t+1)} = LLM(I_{CODE}, R_{Dev}, B_{parent}, P^{(t)})$，并加入进化档案 $P^{(t+1)}$。4) 诊断工具-模型协同进化：首先，LLM扫描新代码库 $B^{(t+1)}$ 和原始诊断工具 $DIAG_{parent}$，生成结构分析报告 $R_{Analyze} = LLM(I_{Analyze}, B^{(t+1)}, DIAG_{parent})$，了解架构变化。然后，基于 $R_{SIM}$ 和 $R_{Analyze}$ 检索相关方法 $K_{DIAG}$，生成诊断工具开发报告 $R_{Dev-DIAG} = LLM(I_{REPORT-DIAG}, R_{SIM}, R_{Analyze}, K_{DIAG})$，最后更新诊断工具 $DIAG^{(t+1)} = LLM(I_{CODE-DIAG}, R_{Dev-DIAG}, B^{(t+1)}, DIAG_{parent}, P^{(t)})$，并加入进化档案。

本文的技术新颖性体现在三个层面：首先，在反馈机制上，首次将基于LLM的用户模拟器集成到代码进化循环中，生成基于多样化用户画像的定性自然语言反馈。这种反馈不仅捕捉用户体验细节（如“忽略子类型”、“过度权重流行度”），还通过社会心理特征（活跃度、从众性、多样性）确保反馈的多样性和真实性，这是现有标量指标无法提供的。其次，在验证机制上，引入模型诊断工具作为确定性验证机制，通过计算探针（如嵌入塌陷检测、排名边距分析）直接探测模型的内部机制和结构属性。诊断工具不仅验证定性反馈的有效性，还发现结构性缺陷（如嵌入塌陷、排名边距过小），实现定性与定量的交叉验证。最后，在进化动态性上，提出“诊断工具-模型协同进化”策略，确保诊断逻辑随架构变化而动态调整。当推荐架构发生变化时，诊断工具同步更新以保持评估能力；当用户模拟器提供新的定性反馈时，诊断工具动态生成对应的量化指标。这种协同进化机制防止了评估标准过时，维持了反馈循环的可靠性。此外，框架采用基于种群的探索策略，维护进化档案存储代码库和反馈的完整历史，支持多样化的进化路径探索。

独立分析发现以下弱点及改进方向：首先，用户模拟器的计算效率较低，每次迭代需要处理20个模拟用户，耗时4分31秒。改进方向包括采用更高效的用户采样策略（如基于聚类的代表性用户选择）或并行化模拟过程。其次，诊断工具的探针设计相对基础，仅包含嵌入塌陷检测和排名边距分析。可以设计更丰富的探针，如多样性熵、流行度偏差度量、序列一致性检测等，以覆盖更多失败模式。第三，框架的进化过程依赖于LLM的代码生成能力，可能生成语法正确但逻辑错误的代码。可以引入更严格的代码验证机制（如单元测试、形式化验证）确保进化代码的正确性。第四，定向反馈的质量高度依赖于用户模拟器的保真度。可以引入真实用户反馈（如众包评估）与模拟反馈相结合，提高反馈的真实性。第五，协同进化机制虽然动态更新诊断工具，但更新过程本身也引入额外开销。可以设计更轻量级的协同进化策略，如增量更新而非完全重新生成。第六，框架的可扩展性未充分探索，在更大规模的推荐系统（如亿级用户、百万级物品）中的性能和效率有待评估。

作者提出的未来工作方向包括：解决迭代训练和评估演化模型的计算开销问题，探索更高效的评估协议（如直接从架构描述预测模型性能）。基于本文成果可延伸的研究方向包括：第一，将定向反馈循环扩展到其他推荐范式，如跨域推荐、多任务推荐、强化学习推荐系统。第二，引入多智能体协同进化，让多个专门化的LLM代理分别负责用户模拟、诊断分析、代码进化等任务，提高进化效率和专业性。第三，探索主动学习策略，让进化过程主动选择最有信息量的用户进行模拟，提高反馈效率。第四，将框架与在线学习结合，在真实用户交互中持续进化推荐系统。第五，研究进化过程的可解释性，分析演化轨迹中哪些修改贡献了主要性能提升，为人工设计提供洞察。第六，探索跨模态推荐系统中的应用，利用多模态信息（文本、图像、视频）丰富用户模拟和诊断分析。第七，研究进化过程的稳定性，避免灾难性遗忘，确保新知识的引入不会损害已学到的能力。

复现评估显示：代码已开源（https://github.com/Sein-Kim/self_evolverec），提供了完整的实现框架。数据方面，使用了四个公开数据集（CDs、Electronics、Office、MovieLens），均为五核数据集（每个用户和物品至少有五次交互），数据预处理步骤明确。算力要求方面，实验在单个NVIDIA GeForce A6000（48GB）GPU上进行，LLM调用使用GPT-5-mini（用户模拟器和规划）和GPT-5（代码代理），需要相应的API访问权限和计算资源。复现难度中等：框架结构清晰，但依赖于特定LLM版本（GPT-5系列），不同LLM的性能可能有所差异。提示模板在附录中提供了示例（如ISIM、ISUMMARIZE、IDIAG等），但完整的提示细节可能需要进一步调整。超参数设置明确（如用户/物品嵌入维度50、批大小128、学习率0.001、最大进化步数21）。总体而言，复现需要一定的LLM调用成本和计算资源，但框架设计和实验设置相对清晰，复现可行性较高。