← 返回 2026-06-23

Notes2Skills:从实验室笔记本到具备确定性感知的科学代理技能 Notes2Skills: From Lab Notebooks to Certainty-Aware Scientific Agent Skills

Shi Liu, Jiayao Chen, Chengwei Qin, Yanqing Hu, Jufan Zhang, Linyi Yang 📅 2026-06-10 👍 11 2026-07-13 08:37
AI代理技能 不确定性建模 实验室笔记本处理 科学文本挖掘

两阶段框架将实验笔记本编译为可验证的AI代理技能,同时保留作者的不确定性标记

前置知识

Epistemic Directive Extraction (EDE)

认识论指令提取是指从文本中识别那些可能指导后续分析的语句,并为每个语句标记其认识论状态(作者对语句的确定性程度)。EDE输出包含三个要素:是否是指令、指令类型(如FLAG_DATA、CONDITION_CHANGE等)、certainty标签(FACT/JUDGMENT/SUGGESTION)。FACT可以支持强操作,JUDGMENT默认保守处理,SUGGESTION仅为建议。

这是Notes2Skills的Stage 1核心,其输出质量直接决定整个pipeline的可靠性。准确提取指令和certainty是避免'不确定性洗白'和'指令丢失'两种失败模式的关键。

MetaSkill Compilation

MetaSkill编译是将Stage 1提取的指令转换为agent可加载的Markdown技能文档的确定性过程。编译遵循四个原则:faithfulness(准确反映作者认识论确定性)、actionability(机器可读)、auditability(可透明验证来源)、conservatism(模糊时保守回退人工审查)。每个capsule包含指令内容、certainty标签、候选动作和SHA-256锚定的源链接。

Stage 2是连接人类科学家和自主代理的桥梁。确定性的编译过程确保了作者certainty信号在从notebook到agent决策的整个链路中不被丢失或篡改。

Executor(执行器)

Executor实现双证据门控机制:确定性函数对齐LLM提案与匹配的capsule。只有当capsule明确授权强操作且文件信号证据支持其参数时,强操作(RAISE_THRESHOLD、TRUNCATE_AT、SKIP_FILE)才会通过;否则降级为保守操作。反之,当LLM默认保守操作但capsule携带与信号证据对齐的fact级候选时,executor会升级操作。

Executor不是独立的安全网,它依赖capsule暴露的certainty、授权和候选动作字段。在certainty-preserving schema下,executor作为精细裁决器;在action-only schema下则退化为毯式安全过滤器。这一对比实验证明了certainty preservation的必要性。

研究动机

现有科学程序文本提取工作主要针对已发表的recipe、wet lab protocols或标准操作流程,这些文本是规定性的,作者在写作时已经解决了不确定性。然而实验笔记本违反了这一假设。例如'the reading dropped sharply after five minutes'是事实,'I am not sure the second read is reliable'表达不确定判断,'try a fresh buffer next time'是建议。这些语句在表面形式上可能极其相似,但应该引发不同的下游行为。现有方法会犯两种失败模式:'不确定性洗白'将试探性笔记编译成确定性决策,代理可能根据作者明确标记为不确定的解释丢弃数据;'指令丢失'则将确定性指令如'this part is invalid, truncate it'与谨慎笔记同等对待,导致代理保留作者意图排除的数据。

本文的目标是本文的目标是提出一个两阶段框架Notes2Skills,将单作者实验笔记本转换为可验证的AI代理技能,同时保留作者的不确定性信号。框架应该确保:FACT可以支持强处理操作,JUDGMENT默认保守处理,SUGGESTION仅为建议。作者certainty应该从notebook文本到agent决策的整个pipeline中保持可见,作为对不可逆科学数据操作的安全边界。

与已有工作不同的是,本文的独特切入角度是将实验室笔记本视为一种新的程序文本类型,其中作者certainty作为agent的安全边界。已有工作要么假设规定性输入,要么评估生成的工件而非其不确定性必须约束后续操作的笔记本。我们的比较使用笔记本-决策界面的受控消融,而非将不确定性视为缺陷来消除。当表面歧义编码作者认识论立场时,应该被保留而非解决掉。

核心方法

Notes2Skills采用两阶段pipeline。Stage 1(EDE)从notebook segments中识别可能指导后续分析的语句,并为每个语句标记certainty标签(FACT/JUDGMENT/SUGGESTION)和指令类型(如FLAG_DATA、CONDITION_CHANGE、ANALYSIS_SUGGESTION等)。Stage 2(MetaSkill Compilation)确定性地将标记的指令编译为agent可加载的Markdown技能文档,每个capsule包含certainty标签、候选动作和SHA-256锚定的源链接。下游agent loop提议处理决策后,executor根据capsule和信号证据对齐最终决策。直觉上是将人类科学家的'观察-判断-建议'区分显式化,让AI代理只能根据证据和授权强度决定操作力度。

核心创新是将作者certainty作为操作承诺级别——指令可以授权的最大操作严重程度——与指令一起传播。FACT授权强操作,JUDGMENT仅授权保守操作,SUGGESTION不承担文件级承诺。运行时执行器仅当capsule的承诺级别和文件信号证据一致时才授权强操作,遵循贝叶斯决策理论的保守逻辑:除非先验信念和观察证据都支持,否则扣留不可逆承诺。与将确定性信息丢弃的action-only schema相比,这一设计让executor从'毯式过滤器'变为'精细裁决器'。

方法步骤详情

Stage 1(EDE)输入notebook segments序列,输出每段的三元组:是否是指令、指令类型(五种之一)、certainty标签。基于语言线索guideline分配标签。Stage 2(MetaSkill Compilation)接收Stage 1指令集合$D = \{(s_i, t_i, c_i)\}_{i=1}^{|D|}$,执行确定性映射$M = \text{Compile}(D, \Pi)$,其中$\Pi$是领域动作词汇,$M$存储每个指令的capsule并暴露承诺级别给运行时gate。Capsule字段包括指令key、certainty标签、候选动作、源片段(SHA-256锚定)。下游Layer 1信号处理器将instrument traces转换为固定SignalFindings摘要,Layer 2 Claude Sonnet 4.5 agent loop提议处理决策,Layer 3 executor对齐提案与capsule和信号证据,输出Authorize/Veto/Substitute/Abstain四种结果之一。

技术新颖性

技术新颖性体现在四个方面:首次考虑将单作者实验笔记本转换为agent-loadable技能,并将笔记本视为新的程序文本类型;提出MetaSkill格式,每个动作保持显式源链接和certainty标签;设计双证据门控executor,仅当capsule授权和信号证据一致时才允许强操作;在三个正式度谱系corpus上验证,包括双语code-switched FreeNotes、半正式ONS和规定性WLP。certainty preservation作为操作信号而非分类误差的创新点,与传统将不确定性视为待消除缺陷的工作形成本质区别。

Three notebook genres carry the same epistemic mixture.
Figure 2: Three notebook genres carry the same epistemic mixture.
Overview of the Notes2Skills pipeline.
Figure 3: Overview of the Notes2Skills pipeline.

实验结果

Stage 1提取在三个corpus上可行但未解决。Claude Sonnet 4.5 few-shot在pooled 87段测试集上达到$F_1^{\text{has_directive}} = 0.737$,比最强zero-shot baseline 0.682提升0.055。Few-shot一致提升directive_type的macro-$F_1$(Claude +0.18, GPT-4o +0.12, Qwen-Max +0.12)。Certainty标签上,GPT-4o zero-shot达到最高QWK 0.946,Claude few-shot领先joint结构准确率0.523。Stage 2保存审计显示编译器输出全部149个fixed EDE指令(FreeNotes 48, WLP 70, ONS 31)为capsule,保持指令key、certainty标签、schema字段和源链接完整。下游三session Nanopore benchmark中,MetaSkill + executor (verify+elevate)是唯一避免两种失败模式的配置:在不确定性主导的Saturation-A(n=17)和Saturation-B(n=22)上FLAG recall达85.7-100%,而在FACT主导的Step-drop(n=9)上保持77.8%准确率和$\kappa=0.63$。Action-only schema在Step-drop上达到研究最高$\kappa=0.80$,但在两个saturation session上$\kappa$崩溃至+0.14和+0.09且FLAG recall降至21.4%和0%。用Claude few-shot预测替换adjudicated EDE的stress test显示,Stage 1 precision是主要瓶颈,但预期安全属性保持:不支持强操作不会被发射。

The five Stage 1 directive types.
Table 1: The five Stage 1 directive types.
The three corpora used in this study.
Table 2: The three corpora used in this study.
Exp 1 pooled metrics across the 87 test segments.
Table 4: Exp 1 pooled metrics across the 87 test segments.
Downstream validation setting.
Figure 4: Downstream validation setting.
Closing the loop: a case study on the wet experiment.
Figure 5: Closing the loop: a case study on the wet experiment.
查看结构化数据
任务指标本文基线提升
Stage 1 Directive Detection $F_1^{\text{has_directive}}$ 0.737 0.682 (strongest zero-shot) +0.055
Certainty Agreement QWK 0.946 (GPT-4o zero-shot) N/A Best in study
Stage 2 Preservation Directives Preserved 149/149 (100%) N/A Perfect audit
Saturation-A Downstream FLAG Recall 85.7% 0% (External LLM) +85.7pp
Saturation-B Downstream File-majority Accuracy 100% 9.1% (External LLM) +90.9pp
Step-drop Downstream $\kappa$ 0.63 0.80 (Action-only alone) Avoids directive loss on FACT sessions

局限与改进

作者承认的局限性:研究聚焦于具有强支持上下文的lab notebooks(笔记写于数据收集附近、原始记录被保留、专家合作者可判断文本triage如何影响后续处理),这使得评估比标准众包文本任务更忠实但更难扩展。构建FreeNotes需要与两所机构的高级实验研究者持续协作,包括标注者培训和重复adjudication。独立观察的局限性:当前工作聚焦于Nanopore领域,跨域泛化能力未充分验证;Stage 1 precision在指令密集regime下较低(34.8% on Saturation-B),over-detection导致stress test中性能下降;executor依赖calibration-derived tolerances,这些统计量在不同仪器类型下可能需要调整;双语code-switched文本虽然few-shot有帮助,但对低资源语言的泛化未探索。

独立分析的弱点

独立分析的弱点:Stage 1的directive detection和certainty labeling仍是瓶颈,特别是FACT-JUDGMENT边界上的错误集中。在指令密集的session如Saturation-B,precision仅34.8%,大量false positive导致stress test中性能明显下降($\kappa$从+0.71降至+0.51)。改进方向:针对性校准FACT-JUDGMENT边界,可能需要domain-specific的few-shot exemplars或专门的certainty classifier;探索multi-task learning同时优化directive detection和certainty prediction。当前executor的tolerance和信号magnitude阈值基于per-file统计量计算,在信号质量极差或噪声极高时可能不稳定。改进方向:引入robust统计量(如median absolute deviation)或贝叶斯tolerance估计;允许专家override tolerance作为failsafe。MetaSkill format当前固定为Markdown,虽然便于human inspection但可能限制了与现有workflow engine的集成。改进方向:提供JSON/YAML等机器优先格式作为可选项;建立与ARIES或CWL等workflow标准的映射。

未来方向

作者提出的未来方向:扩展科学领域和操作者背景,更多实验室开放notebooks、原始记录和专家判断以适合数据共享协议。基于成果可延伸的方向:将certainty-aware编译扩展到多作者协作notebook,处理certainty冲突和consensus机制;引入temporal uncertainty,捕捉同一作者在不同时间点对同一观察的certainty变化;探索uncertainty propagation,当多个capsule影响同一文件时如何合并certainty信号;建立active learning pipeline,让agent在低certainty时自动请求人类review,形成human-in-the-loop的科学工作流;扩展到其他科学文本类型如grant proposals、peer review comments,其中certainty同样是关键信号。

复现评估

复现评估:论文提到会发布匿名FreeNotes segments、EDE labels、gold file-level decisions、derived SignalFindings、prompts、model outputs、human-review deltas和审计reported decisions所需的artifact hashes。然而原始ABF traces可能无法根据数据共享协议重新分发。Stage 2编译器是确定性的,因此理论上可以从fixed EDE inputs完美复现。Stage 1和downstream evaluation依赖LLM API(GPT-4o, Claude Sonnet 4.5, Qwen-Max),API费用和响应时间可能影响复现成本。测试集规模相对较小(87段Stage 1, 48文件downstream),单GPU或CPU即可运行,但需要API key access。开源状态:论文提到Prompts、model outputs、artifact hashes会发布,但未明确是否release Stage 2编译器源码或executor pseudocode的实际实现。复现难度:中等。主要障碍是LLM API access和可能未release的编译器代码,但deterministic pipeline和详细的pseudocode降低了实现门槛。