Notes2Skills:从实验室笔记本到具备确定性感知的科学代理技能 Notes2Skills: From Lab Notebooks to Certainty-Aware Scientific Agent Skills
两阶段框架将实验笔记本编译为可验证的AI代理技能,同时保留作者的不确定性标记
前置知识
Epistemic Directive Extraction (EDE)
认识论指令提取是指从文本中识别那些可能指导后续分析的语句,并为每个语句标记其认识论状态(作者对语句的确定性程度)。EDE输出包含三个要素:是否是指令、指令类型(如FLAG_DATA、CONDITION_CHANGE等)、certainty标签(FACT/JUDGMENT/SUGGESTION)。FACT可以支持强操作,JUDGMENT默认保守处理,SUGGESTION仅为建议。
这是Notes2Skills的Stage 1核心,其输出质量直接决定整个pipeline的可靠性。准确提取指令和certainty是避免'不确定性洗白'和'指令丢失'两种失败模式的关键。
MetaSkill Compilation
MetaSkill编译是将Stage 1提取的指令转换为agent可加载的Markdown技能文档的确定性过程。编译遵循四个原则:faithfulness(准确反映作者认识论确定性)、actionability(机器可读)、auditability(可透明验证来源)、conservatism(模糊时保守回退人工审查)。每个capsule包含指令内容、certainty标签、候选动作和SHA-256锚定的源链接。
Stage 2是连接人类科学家和自主代理的桥梁。确定性的编译过程确保了作者certainty信号在从notebook到agent决策的整个链路中不被丢失或篡改。
Executor(执行器)
Executor实现双证据门控机制:确定性函数对齐LLM提案与匹配的capsule。只有当capsule明确授权强操作且文件信号证据支持其参数时,强操作(RAISE_THRESHOLD、TRUNCATE_AT、SKIP_FILE)才会通过;否则降级为保守操作。反之,当LLM默认保守操作但capsule携带与信号证据对齐的fact级候选时,executor会升级操作。
Executor不是独立的安全网,它依赖capsule暴露的certainty、授权和候选动作字段。在certainty-preserving schema下,executor作为精细裁决器;在action-only schema下则退化为毯式安全过滤器。这一对比实验证明了certainty preservation的必要性。
研究动机
现有科学程序文本提取工作主要针对已发表的recipe、wet lab protocols或标准操作流程,这些文本是规定性的,作者在写作时已经解决了不确定性。然而实验笔记本违反了这一假设。例如'the reading dropped sharply after five minutes'是事实,'I am not sure the second read is reliable'表达不确定判断,'try a fresh buffer next time'是建议。这些语句在表面形式上可能极其相似,但应该引发不同的下游行为。现有方法会犯两种失败模式:'不确定性洗白'将试探性笔记编译成确定性决策,代理可能根据作者明确标记为不确定的解释丢弃数据;'指令丢失'则将确定性指令如'this part is invalid, truncate it'与谨慎笔记同等对待,导致代理保留作者意图排除的数据。
本文的目标是本文的目标是提出一个两阶段框架Notes2Skills,将单作者实验笔记本转换为可验证的AI代理技能,同时保留作者的不确定性信号。框架应该确保:FACT可以支持强处理操作,JUDGMENT默认保守处理,SUGGESTION仅为建议。作者certainty应该从notebook文本到agent决策的整个pipeline中保持可见,作为对不可逆科学数据操作的安全边界。
与已有工作不同的是,本文的独特切入角度是将实验室笔记本视为一种新的程序文本类型,其中作者certainty作为agent的安全边界。已有工作要么假设规定性输入,要么评估生成的工件而非其不确定性必须约束后续操作的笔记本。我们的比较使用笔记本-决策界面的受控消融,而非将不确定性视为缺陷来消除。当表面歧义编码作者认识论立场时,应该被保留而非解决掉。
核心方法
Notes2Skills采用两阶段pipeline。Stage 1(EDE)从notebook segments中识别可能指导后续分析的语句,并为每个语句标记certainty标签(FACT/JUDGMENT/SUGGESTION)和指令类型(如FLAG_DATA、CONDITION_CHANGE、ANALYSIS_SUGGESTION等)。Stage 2(MetaSkill Compilation)确定性地将标记的指令编译为agent可加载的Markdown技能文档,每个capsule包含certainty标签、候选动作和SHA-256锚定的源链接。下游agent loop提议处理决策后,executor根据capsule和信号证据对齐最终决策。直觉上是将人类科学家的'观察-判断-建议'区分显式化,让AI代理只能根据证据和授权强度决定操作力度。
核心创新是将作者certainty作为操作承诺级别——指令可以授权的最大操作严重程度——与指令一起传播。FACT授权强操作,JUDGMENT仅授权保守操作,SUGGESTION不承担文件级承诺。运行时执行器仅当capsule的承诺级别和文件信号证据一致时才授权强操作,遵循贝叶斯决策理论的保守逻辑:除非先验信念和观察证据都支持,否则扣留不可逆承诺。与将确定性信息丢弃的action-only schema相比,这一设计让executor从'毯式过滤器'变为'精细裁决器'。
方法步骤详情
Stage 1(EDE)输入notebook segments序列,输出每段的三元组:是否是指令、指令类型(五种之一)、certainty标签。基于语言线索guideline分配标签。Stage 2(MetaSkill Compilation)接收Stage 1指令集合$D = \{(s_i, t_i, c_i)\}_{i=1}^{|D|}$,执行确定性映射$M = \text{Compile}(D, \Pi)$,其中$\Pi$是领域动作词汇,$M$存储每个指令的capsule并暴露承诺级别给运行时gate。Capsule字段包括指令key、certainty标签、候选动作、源片段(SHA-256锚定)。下游Layer 1信号处理器将instrument traces转换为固定SignalFindings摘要,Layer 2 Claude Sonnet 4.5 agent loop提议处理决策,Layer 3 executor对齐提案与capsule和信号证据,输出Authorize/Veto/Substitute/Abstain四种结果之一。
技术新颖性
技术新颖性体现在四个方面:首次考虑将单作者实验笔记本转换为agent-loadable技能,并将笔记本视为新的程序文本类型;提出MetaSkill格式,每个动作保持显式源链接和certainty标签;设计双证据门控executor,仅当capsule授权和信号证据一致时才允许强操作;在三个正式度谱系corpus上验证,包括双语code-switched FreeNotes、半正式ONS和规定性WLP。certainty preservation作为操作信号而非分类误差的创新点,与传统将不确定性视为待消除缺陷的工作形成本质区别。
实验结果
Stage 1提取在三个corpus上可行但未解决。Claude Sonnet 4.5 few-shot在pooled 87段测试集上达到$F_1^{\text{has_directive}} = 0.737$,比最强zero-shot baseline 0.682提升0.055。Few-shot一致提升directive_type的macro-$F_1$(Claude +0.18, GPT-4o +0.12, Qwen-Max +0.12)。Certainty标签上,GPT-4o zero-shot达到最高QWK 0.946,Claude few-shot领先joint结构准确率0.523。Stage 2保存审计显示编译器输出全部149个fixed EDE指令(FreeNotes 48, WLP 70, ONS 31)为capsule,保持指令key、certainty标签、schema字段和源链接完整。下游三session Nanopore benchmark中,MetaSkill + executor (verify+elevate)是唯一避免两种失败模式的配置:在不确定性主导的Saturation-A(n=17)和Saturation-B(n=22)上FLAG recall达85.7-100%,而在FACT主导的Step-drop(n=9)上保持77.8%准确率和$\kappa=0.63$。Action-only schema在Step-drop上达到研究最高$\kappa=0.80$,但在两个saturation session上$\kappa$崩溃至+0.14和+0.09且FLAG recall降至21.4%和0%。用Claude few-shot预测替换adjudicated EDE的stress test显示,Stage 1 precision是主要瓶颈,但预期安全属性保持:不支持强操作不会被发射。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Stage 1 Directive Detection | $F_1^{\text{has_directive}}$ | 0.737 | 0.682 (strongest zero-shot) | +0.055 |
| Certainty Agreement | QWK | 0.946 (GPT-4o zero-shot) | N/A | Best in study |
| Stage 2 Preservation | Directives Preserved | 149/149 (100%) | N/A | Perfect audit |
| Saturation-A Downstream | FLAG Recall | 85.7% | 0% (External LLM) | +85.7pp |
| Saturation-B Downstream | File-majority Accuracy | 100% | 9.1% (External LLM) | +90.9pp |
| Step-drop Downstream | $\kappa$ | 0.63 | 0.80 (Action-only alone) | Avoids directive loss on FACT sessions |
局限与改进
作者承认的局限性:研究聚焦于具有强支持上下文的lab notebooks(笔记写于数据收集附近、原始记录被保留、专家合作者可判断文本triage如何影响后续处理),这使得评估比标准众包文本任务更忠实但更难扩展。构建FreeNotes需要与两所机构的高级实验研究者持续协作,包括标注者培训和重复adjudication。独立观察的局限性:当前工作聚焦于Nanopore领域,跨域泛化能力未充分验证;Stage 1 precision在指令密集regime下较低(34.8% on Saturation-B),over-detection导致stress test中性能下降;executor依赖calibration-derived tolerances,这些统计量在不同仪器类型下可能需要调整;双语code-switched文本虽然few-shot有帮助,但对低资源语言的泛化未探索。
独立分析的弱点
独立分析的弱点:Stage 1的directive detection和certainty labeling仍是瓶颈,特别是FACT-JUDGMENT边界上的错误集中。在指令密集的session如Saturation-B,precision仅34.8%,大量false positive导致stress test中性能明显下降($\kappa$从+0.71降至+0.51)。改进方向:针对性校准FACT-JUDGMENT边界,可能需要domain-specific的few-shot exemplars或专门的certainty classifier;探索multi-task learning同时优化directive detection和certainty prediction。当前executor的tolerance和信号magnitude阈值基于per-file统计量计算,在信号质量极差或噪声极高时可能不稳定。改进方向:引入robust统计量(如median absolute deviation)或贝叶斯tolerance估计;允许专家override tolerance作为failsafe。MetaSkill format当前固定为Markdown,虽然便于human inspection但可能限制了与现有workflow engine的集成。改进方向:提供JSON/YAML等机器优先格式作为可选项;建立与ARIES或CWL等workflow标准的映射。
未来方向
作者提出的未来方向:扩展科学领域和操作者背景,更多实验室开放notebooks、原始记录和专家判断以适合数据共享协议。基于成果可延伸的方向:将certainty-aware编译扩展到多作者协作notebook,处理certainty冲突和consensus机制;引入temporal uncertainty,捕捉同一作者在不同时间点对同一观察的certainty变化;探索uncertainty propagation,当多个capsule影响同一文件时如何合并certainty信号;建立active learning pipeline,让agent在低certainty时自动请求人类review,形成human-in-the-loop的科学工作流;扩展到其他科学文本类型如grant proposals、peer review comments,其中certainty同样是关键信号。
复现评估
复现评估:论文提到会发布匿名FreeNotes segments、EDE labels、gold file-level decisions、derived SignalFindings、prompts、model outputs、human-review deltas和审计reported decisions所需的artifact hashes。然而原始ABF traces可能无法根据数据共享协议重新分发。Stage 2编译器是确定性的,因此理论上可以从fixed EDE inputs完美复现。Stage 1和downstream evaluation依赖LLM API(GPT-4o, Claude Sonnet 4.5, Qwen-Max),API费用和响应时间可能影响复现成本。测试集规模相对较小(87段Stage 1, 48文件downstream),单GPU或CPU即可运行,但需要API key access。开源状态:论文提到Prompts、model outputs、artifact hashes会发布,但未明确是否release Stage 2编译器源码或executor pseudocode的实际实现。复现难度:中等。主要障碍是LLM API access和可能未release的编译器代码,但deterministic pipeline和详细的pseudocode降低了实现门槛。
论文图表
Figure 1展示了程序文本提取的三个时代演变:从recipe级别的flow graph提取(早期ML时代),到protocol级别的action modeling(深度学习时代),再到LLM-based skill construction(当前)。每个时代都有一个示例和代表性工作。图下方标注了'To Certainty-Aware Skills',指向未来方向。
这张图对理解论文motivation至关重要,它定位了Notes2Skills在学术谱系中的位置——从prescriptive texts(recipes, protocols)到procedural notes(notebooks),同时引入certainty作为新的维度。它帮助读者理解为什么现有工作无法处理lab notebooks。
Table 3列出了七种downstream configurations:External LLM (no skill)、Action-only skill (+ executor可选)、Raw notes、Notes2Skills skill (+ verify/verify+elevate可选)。每一行指定Skill input和Executor设置。Bold行是proposed configuration。verify启用Authorize+Veto,verify+elevate增加Substitute。
这个表格对理解downstream ablation design至关重要。它展示了control baselines(External LLM, Action-only)和proposed method(Notes2Skills + executor)的对比,以及executor不同mode的消融。
Table 5是Stage 2 preservation audit,显示EDE directives数量、Capsules数量、以及四个universal invariants的检查结果:Pres.(directive preservation 1:1 mapping, no merge/drop)、Cert.(certainty agreement)、Prov.(provenance integrity SHA-anchored)、Schema(valid JSON, closed-vocabulary)。FreeNotes还有optional Policy check。所有149个directives通过所有检查。
这个表格证明了Stage 2的deterministic compilation成功:所有directives被preserved,certainty labels和source links保持完整。它验证了faithfulness和auditability design principles。
Table 6报告了三session(Saturation-A n=17 uncertainty-heavy, Saturation-B n=22 terminal saturation, Step-drop n=9 FACT-dominated)上七种conditions的downstream metrics:Acc(file-majority accuracy)、bAcc(balanced accuracy)、macro-$F_1$、$\kappa$(unweighted Cohen's)、FR(FLAG_FOR_REVIEW recall %)。Bold行的proposed configuration是唯一避免两种失败模式的。
这是论文的main results表格,直接证明了certainty preservation的必要性:Action-only schema在Saturation sessions上失败(FR collapse),而Notes2Skills + executor在所有三sessions上表现稳健。Stress test用predicted EDE验证pipeline鲁棒性。