SkillClaw:基于智能体演进器的技能集体进化框架 SkillClaw: Let Skills Evolve Collectively with Agentic Evolver
用集体轨迹驱动智能体技能自动进化的多用户闭环框架。
前置知识
LLM智能体中的技能(Skill)
LLM智能体中一种可复用的程序性工件，通常以自然语言或结构化指令形式描述工具调用顺序、参数格式与执行约束，作为智能体行为的标准化操作流程(SOP)。与简单的提示词不同，技能是面向特定工作流的可加载单元,用户从技能中心安装后在推理时按需选择。
SkillClaw的整个方法都围绕"技能"展开,理解"技能是结构化、可加载、可被多用户共享的可复用程序单元"是阅读后文证据分组、进化动作、验证同步等所有机制的前提。
会话轨迹(Session Trajectory)与因果链
一次完整人机交互的全过程记录，包含用户提示、模型动作(含工具调用)、环境/用户反馈、错误信息、最终响应等所有中间环节。SkillClaw强调必须保留完整 action→feedback 因果链，因为大多数程序性失败(参数格式错误、工具调用顺序颠倒等)只在中间环节可见,无法从最终回复反推。
论文将轨迹视为"经验"的唯一载体，理解它需要包含全部中间步骤而非只保留结果，是看懂 SkillClaw 如何把跨用户数据组织成"证据"、并对症下药修改技能的关键。
智能体自演化(Agent Self-Evolution)
智能体在运行过程中基于自身历史经验持续改进能力的研究范式，涵盖记忆反思(如 Reflexion)、经验总结(如 ExpeL)、技能优化等多个层面。SkillClaw属于其中"技能自演化"分支,但把单智能体的局部反思升级为多用户群体层面的集体演化。
SkillClaw是自演化领域的新工作,把它与 Reflexion(局部反思)、Voyager(单智能体技能库)等已有工作区分开,才能看清它"集体化、共享化、夜间批处理"的差异化定位。
智能体式(Agentic)推理与开放域决策
让 LLM 智能体在大模型驱动下,基于结构化工具与环境做开放式推理与决策,而不是按固定规则流水线执行。论文中"智能体式演进器"特指:不依赖人工定义的更新规则,而由 LLM 自由诊断根因、提出修改、调用工具直接编辑技能文件的能力。
SkillClaw 区别于传统程序化技能更新的核心就在于"用智能体做演进"，理解这一点需要先认识到传统做法依赖专家手写规则、而 agentic 方式让 LLM 自己判断如何改。
AB测试式在线验证(In-the-Wild Validation)
对候选更新不只看其自评,而是在真实环境/真实用户空闲时同时跑新旧版本,通过实际执行结果比较决定是否替换部署的范式。论文中所有"接受/拒绝"决策均基于真实环境执行而非静态评分,这是一种单调部署(只升不降)的安全网机制。
理解"演进必须先验证再部署"是把握 SkillClaw 闭环设计的关键,否则容易把它误读为"一改了之"的危险自动改写系统。
研究动机
当前 LLM 智能体(如 OpenClaw)在部署后所依赖的技能(Skill)基本是静态的:用户从中心化技能中心安装技能,这些技能在多个会话中重复使用,但在单次交互中通过试错得到的修复(如 API 端口错误、参数格式补全)很少被沉淀到技能库,因而类似的工作流、工具调用模式、失败原因会在不同用户处被反复重新发现。具体而言,系统虽然记录了完整的 prompt→action→feedback→response 因果链,却缺乏把跨用户异构交互转化为可靠技能更新的机制。记忆类方法(Reflexion、ExpeL 等)只把轨迹存为可检索记录,无法泛化出可复用的行为;技能类方法(Voyager 等)把经验压缩为结构化指令后便把技能库视为静态资源,既不在使用中持续更新、也不跨用户共享。这导致每个用户都被迫独立重新发现已知解,系统无法在群体层面累积能力。
本文的目标是本文提出 SkillClaw,目标是把多用户群体使用经验作为技能进化的主要信号,搭建一个让技能在跨用户、跨时间维度上持续进化的闭环系统。具体而言,它要让每次用户交互生成的轨迹被自动聚合、按所引用技能分组,再由一个智能体式演进器读取证据并以开放域推理方式决定如何更新(细化、补全或新建),最后通过真实环境 A/B 验证后才同步给所有用户,使一名用户发现的修复能够自动惠及全部用户,并保证系统性能在演化过程中只升不降。
与已有工作不同的是，已有自演化方法都是单智能体局部视角(只读自己的轨迹、在自己的优化回路里改自己),而 SkillClaw 的独特切入角度是"把多用户群体视作一个分布式数据源":不同用户在不同设备、不同时间调用同一技能时产生的成功/失败轨迹天然构成自然对照实验,只有把跨用户证据聚合起来,才能把"偶发的个体修复"与"真正可泛化的程序改进"区分开。这把技能进化从"单机离线蒸馏"升级为"群体在线协同",是论文区别于 Reflexion、ExpeL、Voyager、Skill Library 等已有工作的根本差异。
核心方法
SkillClaw 采用"中心化演进 + 分布式执行"的架构,模拟一个昼夜循环:白天不同用户的 OpenClaw 智能体独立工作,完成多步任务并产出含完整 action→feedback 因果链的会话轨迹;夜间一个统一的演进器(agentic evolver)对所有轨迹做结构化、聚类、诊断、改写、验证,只把通过真实环境 A/B 验证的更新写回共享技能库,再同步给全部用户。整体直觉是:大量异构用户对同一技能的反复调用,会自然形成"何时有效、何时失效"的分布证据,演进器只需读这份证据就能做"按证据驱动的程序性修改",既不依赖人工规则,也不依赖端到端重训。技术上,它把轨迹视为经验 $T=\{\tau_i\}$,把技能集视为 $S=\{s_1,\dots,s_M\}$,目标就是拟合一个更新映射 $S'=\Phi(S,T)$,其实现方式完全由 LLM 智能体在 harness 内自主决策。
SkillClaw 的核心创新是把"跨用户轨迹聚合 + 智能体式开放推理 + 真实环境验证"三者耦合成一个共享的夜间闭环,这与已有方法有三点本质区别。第一,它把"用户轨迹"从"个体记忆"提升为"群体证据",并通过技能引用做自然分组 $G(s)=\{\tau_i\mid s\in K_i\}$,使得同一技能在异构用户/异构任务上的成败分布本身就成为可被诊断的对照实验,这是 Reflexion/ExpeL/Voyager 都没有的视角。第二,演进器不依赖任何预定义更新规则,而是由一个 LLM 智能体在固定 harness 框架内做开放域推理,在 {refine, create, skip} 三种动作间自由选择,这避免了"为每种失败手写一条规则"的工程陷阱。第三,所有候选更新必须先在真实环境与原版做 A/B 执行比较,只有真正更优的才被部署,这种"单调部署"设计使得系统在使用过程中能力只升不降,真正实现"边用边进化"的承诺,而非"自动破坏"。
方法步骤详情
方法分四个阶段。第一阶段为结构化与聚合:每个会话 $\tau$ 转换为保留完整因果链的 prompt→action→feedback→...→response 序列,抽取引用技能、是否出现工具错误、质量估计三类轻量元数据;按引用 $K_i$ 分组得到 $G(s)=\{\tau_i\mid s\in K_i\}$ 与 $G(\emptyset)$。第二阶段为智能体式演进(Algorithm 1):对每个 $G(s)$,LLM 智能体同时阅读成功与失败会话并在 refine/create/skip 间选择;对 $G(\emptyset)$ 专注于发现可教学且可能复现的可复用程序并生成新技能。第三阶段为保守编辑与验证:遵循"成功定义不变式、失败定义修改目标"原则,候选 $s'$ 在夜间空闲用户环境中与 $s$ 同时执行并 A/B 比较,只有严格更优才标 Accept。第四阶段同步与闭环:被接受的更新合并入 $S'$,第二天分发给全部用户,由此闭合 Interaction→Evidence→Evolution→Validation→Deployment 的循环。
技术新颖性
技术新颖性可归纳为四点。第一,把"多用户异构证据"作为新的训练信号源,设计了一个 $G(s)$ 分组抽象把跨用户经验转化为可被单次 LLM 推理消费的证据包,这是过往单智能体自演化工作所没有的数据组织方式。第二,把"演进"问题转化为一个 LLM 智能体的 agentic 任务,给一个固定的 harness 提供 grouped evidence + 技能定义 + 三选一动作空间,让大模型自由做归因、诊断、改写,既不约束推理过程也不需要为每类失败写规则。第三,提出"成功定义不变式、失败定义修改目标"的联合推理原则,使得 naive 修复(修一个坏一个)在原理上被压制;这是论文在算法层面比"单看失败案例做摘要"要稳健的关键。第四,引入夜间真实环境 A/B 验证与单调部署机制,使得自动改写具备生产级安全网,这是当前大多数 agent self-improve 工作(尤其是技能自动编辑类)所欠缺的工程保障。
实验结果
实验在 WildClawBench(60 任务、6 类能力域)上进行,8 个并发用户、6 天昼夜循环,全部由 Qwen3-Max 驱动。Table 3 显示四类目均稳定上升:Social 54.01%→60.34%(+11.72%)、Search 22.73%→34.55%(+52.00%)、Creative 11.57%→21.80%(+88.41%)、Safety 24.00%→32.00%(+33.33%)。Social 早在 Day 2 锁定最佳技能池;Search 呈"输入可靠性→高层规划"两阶段提升;Creative 早期跃升说明瓶颈在环境配置;Safety 提升最晚,集中在 Git 鉴权回退、目录克隆等鲁棒执行层面。Table 8 受控实验直接验证机制:三查询平均 +42.1%,save report 从 28.3% 飙到 100.0%(+71.7%),deadline parsing 提升最小(+6.9%),与"程序性失败占主导的任务最能从技能编码中获益"一致。Table 4–7 显示被提议更新大多被验证拒绝,部署更新稀疏高置信,符合单调部署设计目标。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| WildClawBench Social Interaction 类别白天性能 | 成功率(%) | 60.34% (Day 6) | 54.01% (Day 1, 初始基线) | +6.33 绝对、+11.72% 相对 |
| WildClawBench Search & Retrieval 类别白天性能 | 成功率(%) | 34.55% (Day 6) | 22.73% (Day 1) | +11.82 绝对、+52.00% 相对 |
| WildClawBench Creative Synthesis 类别白天性能 | 成功率(%) | 21.80% (Day 6) | 11.57% (Day 1) | +10.23 绝对、+88.41% 相对 |
| WildClawBench Safety & Alignment 类别白天性能 | 成功率(%) | 32.00% (Day 6) | 24.00% (Day 1) | +8.00 绝对、+33.33% 相对 |
| 受控验证 basic extraction | 成功率(%) | 69.6% (一轮演进后) | 21.7% (演进前) | +47.8% 绝对 |
| 受控验证 deadline parsing | 成功率(%) | 48.0% (一轮演进后) | 41.1% (演进前) | +6.9% 绝对,提示高语义推理任务对程序性技能更新不敏感 |
| 受控验证 save report | 成功率(%) | 100.0% (一轮演进后) | 28.3% (演进前) | +71.7% 绝对,验证了"程序性失败一旦被编码为技能即可彻底修复"的论断 |
局限与改进
作者明确承认的限制:第一,实验仅运行 6 天、4 个类目( Productivity Flow 与 Code Intelligence 未报告),模拟用户数 8、每天交互量有限,是"小规模集体进化"的概念验证,不能直接外推到真实大规模部署。第二,验证阶段需要在真实空闲用户环境跑新旧两版,带来显著 token 与算力开销,但作者认为相比"无验证直接部署"的代价换来了单调性能保证,值得付出。第三,演进器完全由 Qwen3-Max 驱动,虽通过 harness 隔离了固定接口,但其推理质量仍受骨干模型能力限制,论文未给出换骨干的对比。我自己的进一步观察:(a)四类的最终提升均在 6 天内早早 plateau,暗示该规模下群体信号易被耗尽,真实部署需要更复杂的证据管理;(b)Table 4–7 显示被提议的更新大多被拒绝,演进器产出的利用率偏低,需要更好的提案过滤;(c)任务定义与成功判定仍依赖特定工作流假设(如 /tmp_workspace 路径、Slack 端口号),通用性仍需在更多异构环境中验证。
独立分析的弱点
从独立分析看,论文有四个值得改进的弱点。第一,验证机制在真实空闲用户环境跑新旧两版对比,这在生产环境中会显著放大延迟与算力开销,特别是当技能数量增加时(假设 8 用户 × 4 类别 = 32 技能候选,每晚全量 A/B 跑一次成本可观),应该设计一种"轻量代理指标 + 抽样真实验证"的混合方案以降低成本。第二,演进器在 {refine, create, skip} 三种动作间做选择,但没有机制避免"把局部巧合当全局规律"的过拟合风险;可以引入小规模人工标注或规则化负面约束(例如禁止修改被人工 pin 住的核心步骤)来增加稳健性。第三,Table 4–Table 7 显示有相当多被提议的更新被拒绝,演进器的提案效率偏低,可在演进器前加一层"轻量级提案过滤"(例如基于 LLM 的快速自评),只在具备充分证据时才进入昂贵的验证环节。第四,目前评估只覆盖 6 个类目中的 4 个,且只跑了 6 轮昼夜,实验广度与时长都不足以证明论文声称的"集体进化可以无限累积",需要更长时间、更多用户、更多任务类型的纵向评估。
未来方向
作者明确提到的方向包括:扩大用户规模、延长演化时间、引入更多样化的任务与验证条件,以丰富演进轨迹并进一步提升系统性能。基于论文成果可延伸的方向至少有以下几条。第一,把夜间验证从"全员 A/B"升级为分层验证:对高风险技能(例如安全相关)做强制 A/B,对低风险技能做轻量代理评估,从而显著降低夜间算力成本。第二,把 SkillClaw 的演进机制与端到端模型微调结合,使"程序性改进"用技能编辑解决、"语义性改进"用参数更新解决,形成混合自演化系统。第三,把群体扩展到"跨组织"或"跨领域":不同公司、不同行业的用户共享同一基础技能池,各自在私有分支上演进,定期向主池贡献去标识化的高价值更新。第四,引入对演进过程的可解释性审计:每条被采纳的更新都附带可追溯的"证据摘要",让用户与审计员能够理解技能为何被这样修改,从而支持合规与责任归属。第五,把方法推广到非 Claw 风格的智能体(如 Computer-Use Agent、Web Agent),验证框架在不同 agent harness 间的可移植性。
复现评估
复现方面,作者在论文与 GitHub 仓库(https://github.com/AMAP-ML/SkillClaw)中提供了框架实现与 SmartClaw benchmark 相关入口,核心算法 Algorithm 1 在论文中以伪代码形式完整给出,数据流(图 1)和验证流程(图 2–5 案例)描述清晰,具备较好的可复现性。WildClawBench 包含 60 个任务、覆盖 6 个能力域并附 3–27 个聚合指标,文中也明确执行环境是完整 Linux 容器+多模态输入,便于第三方搭建。算力上,8 并发用户 × 6 天昼夜循环 × Qwen3-Max(每次演进都涉及完整多步执行)成本较高,且夜间验证需要再跑一遍真实任务,整体 token 消耗显著;普通研究者难以完全复现完整 6 轮实验,但可以基于受控验证的 3 个查询(Table 8)做小规模复现,这是论文中最易复现也是最直接证明机制有效性的部分。整体复现难度为中等偏高:核心机制可复现,完整 6 轮昼夜实验需要较多算力与时间。
论文图表
对比原版技能与进化后技能在同一"从 Slack 抽取待办"任务上的执行:原版用 9100 端口的失败路径且只取预览,只能 trial-and-error 试错;进化版预先指定 9110 端口,先扫 preview 过滤再按需取完整消息,最后写 /tmp_workspace/results/results.md,Attribution 段指出进化修了 API 端口、补了完整消息获取、指定了正确输出路径。
这张案例图把 Table 3 中 Social 类目 Day 2 跃升的内在机制具体化,展示了"程序性修复+工作流结构化"如何在真实任务上落地。
对比统计 ICCV 2025 oral 中 SJTU/FDU 第一署名的任务:原版技能只做"大学名出现即匹配"的弱启发式,会把非第一署名误计;进化版加入"第一署名=论文首页第一作者对应机构"的明确定义、对齐 OpenAccess 记录后再解析、对噪声子集做二次人工核对,Attribution 总结为精确定义、验证感知、稳健抽取三点改进。
这是 Search & Retrieval 类目"输入可靠性→约束感知规划"路径的典型示例,展示如何把含糊的匹配规则变成结构化、可验证的工作流。
对比 SAM3 推理脚本任务:原版假设 /tmp_workspace 与测试图像齐备且环境支持 CUDA,缺失即报错;进化版先做工作区预检、把缺失输出目录视为非阻塞、检查邻近任务资源、为 CPU 机器打 monkey patch 让 CUDA 硬编码的位置编码也能初始化,Attribution 总结为环境落地、稳健资源发现、自适应执行。
这张图说明 Creative 类目跃升主要来自"环境预检+工作区管理"技能,直接对应 Table 6 中 validate-tmp-workspace-inputs 被 Accept 的事实。
对比多条件(骁龙 8 Gen 3、1 英寸主摄、卫星通信、512GB、≥5400mAh、2024 发布)手机推荐任务:原版只做启发式搜索,找到一个看似合理候选就停;进化版先逐条用官方产品页核对、把所有条件联合评估,且在没有完全匹配时显式报告"无全匹配"并给出部分匹配明细,Attribution 总结为约束感知推理、扎根检索、校准决策。
这张图展示 Search 类目在高层规划层面如何把"模糊启发式"升级为"约束感知的可验证决策",与 Table 5 中 constrained-technical-search-planning 提案被拒一起反映"高语义任务演进仍有空间"。