基于持续经验驱动执行的深度表格研究

提出DTR框架，通过闭环智能体决策处理非结构化表格的复杂多步推理任务

前置知识

表格问答 (Table Question Answering)

TableQA是指给定一个表格和一个自然语言问题，系统需要从表格中检索或推理出正确答案的任务。传统方法通常将表格序列化为文本后直接用LLM推理，或将其转换为SQL等结构化查询。然而，这些方法在处理具有复杂层次结构、双向头、合并单元格的非规范表格时表现不佳。

DTR正是针对传统TableQA无法处理的复杂场景提出的，理解传统方法的局限性是理解DTR动机的关键

智能体框架 (Agentic Framework)

智能体框架是指LLM与外部工具交互、执行多步决策的系统架构。在这种框架中，LLM不仅做文本推理，还可以调用代码执行器、数据库等工具，通过观察执行结果来调整策略。典型的例子包括AutoGPT、Toolformer等。

DTR本质上是一个智能体框架，将表格推理视为闭环决策过程，理解智能体的工作方式对理解DTR至关重要

多跳推理 (Multi-hop Reasoning)

多跳推理是指需要多个推理步骤才能得到答案的任务。在表格场景中，一个查询可能需要先筛选数据、再分组聚合、然后排序比较，每一步都依赖前一步的结果。这种长序列的推理对错误传播特别敏感。

DTR的核心挑战就是处理长时序的多跳表格推理任务，需要在多步操作中保持一致性

UCB (Upper Confidence Bound) 算法

UCB是强化学习中用于平衡探索与利用的经典算法。它通过维护每个动作的经验奖励和尝试次数来选择动作，公式为 $$\text{UCB} = \hat{R} + \alpha \sqrt{\frac{\log N}{N(\pi)}}$$，其中第一项鼓励利用已知好动作，第二项鼓励探索尝试次数少的动作。

DTR的期望感知选择机制借鉴了UCB的思想，但进行了修改以适应表格推理的路径选择场景

孪生网络 (Siamese Network)

孪生网络是指共享参数或结构的并行网络，用于学习两个输入之间的相似性或关系。在DTR中，孪生结构指的是参数化执行反馈和抽象经验两个并行通道，它们协同工作但处理不同类型的信息。

DTR的核心创新之一是引入孪生结构记忆，同时维护量化反馈和语义经验

研究动机

现有表格问答系统在处理真实世界数据时面临严重瓶颈。传统TableQA流水线如图1(a)所示，仅能处理结构良好、头信息扁平、布局规范的表格，执行简单的单步检索任务。然而，真实世界的电子表格如图1(b)所示，具有层次化和双向头信息、合并单元格、缺失值等非规范特性。例如，一个典型的财务报表可能包含多级行头（按部门到产品线到季度组织）和多级列头（按指标类型到时间周期组织），形成复杂的双向层次结构。现有系统对这类表格的处理能力极为有限。此外，实际分析任务如图1(c)所示，本质上是长时序、多跳的：一个查询如各部门Q3销售额增长率低于10%的产品有哪些，需要先识别部门维度、再按产品分组、计算季度销售额、计算增长率、最后筛选。这种多步推理需要迭代验证和条件分支，中间结果必须被检查和修正。

本文的目标是本文的目标是形式化并解决深度表格研究（Deep Tabular Research, DTR）问题，即需要协调数据获取、计算和分析综合的长时序复杂表格推理任务。具体而言，DTR需要：处理具有层次化和双向头、合并单元格、缺失值的非规范表格；执行需要多个原子操作组合的复杂分析查询；在多步推理过程中实现稳健的错误隔离和恢复；从历史执行反馈中学习以优化未来决策。

与已有工作不同的是，本文的独特切入角度是将表格推理形式化为闭环决策过程，而不是传统的单次推理。现有方法要么依赖LLM的上下文学习（受限于token约束和数值精度），要么使用程序化执行（但缺乏从执行结果中学习的机制）。DTR的关键洞察是：宏观战略规划应该与微观执行解耦，并通过历史执行反馈持续优化规划策略。这种持续经验驱动的范式使得系统能够在不确定性和结构模糊性下进行鲁棒推理，同时通过执行反馈逐步改进决策质量。

核心方法

DTR框架的整体思路可以类比为一个有经验的数据分析师处理复杂表格：首先理解表格结构（元信息提取），然后将复杂查询分解为可执行的操作序列（查询分解），接着选择最有可能成功的执行路径（期望感知选择），执行并观察结果（路径执行），最后从成功和失败中学习（经验记忆更新）。技术路线分为五个关键阶段：表格理解和结构建模，构建层次化的元图来捕获双向语义；查询引导的操作映射，将自然语言查询映射到原子操作空间；期望感知的路径规划，使用改进的UCB算法平衡探索与利用；孪生经验引导的执行，同时维护参数化反馈和抽象经验；反思驱动的路径适应，根据实时反馈动态调整执行策略。

DTR的核心创新在于将表格推理视为持续决策过程而非单次推理。与已有方法的本质区别体现在三个方面：首先，DTR将战略规划与执行解耦，在操作序列层面进行搜索而非token级别的穷举，这大幅降低了搜索空间；其次，引入期望感知选择机制，通过维护路径级别的统计信息（期望回报、执行次数、结构先验）来指导路径选择，公式为 $$E(\pi) = \hat{R}(\pi) + \alpha \cdot P(\pi) \cdot \sqrt{\frac{\log \sum_{\pi'} N(\pi')}{1 + N(\pi)}}$$，这比简单的贪心或随机探索更高效；第三，设计孪生结构记忆，参数化执行反馈捕获具体信号（执行成功/失败、运行时间、输出格式），而抽象经验提炼跨实例的可迁移模式，两者协同工作实现从历史执行中持续学习。

方法步骤详情

DTR方法的完整执行流程如下：第一步，表格理解和元图构建：输入原始表格T和查询q，系统首先提取元信息，包括列头、行头、子头等层次组织，以及测量单位、时间标记等隐式元数据。然后识别双向头结构，沿行和列两个轴识别头信息区域并解析其跨度，产生双向头结构。最后构建元图 $$G_T = (V_T, E_T)$$，其中节点对应头或内容元素，边表示包含或层次关系，形成重叠的树状层次结构。第二步，查询引导的操作映射：给定查询q和表格图 $$G_T$$，使用LLM代理从预定义的种子操作库 O = {CLEAN, FILTER, GROUP, AGG, JOIN, SORT, ...} 中选择候选操作集。然后构建操作图，编码操作之间的依赖关系和合法顺序。第三步，期望感知路径规划：枚举候选路径集，对每个路径维护统计信息（期望回报估计、执行次数、结构先验），计算期望得分并选择top-k路径执行。第四步，迭代执行与交互：执行选定的操作路径，在连续操作之间与LLM代理进行中间交互，代理产生离散标志信号 [THINK] / [CODE]，记录执行轨迹。第五步，孪生经验反馈与更新：收集参数化执行反馈（执行有效性、执行时间、类型一致性），同时维护抽象经验，更新路径期望。第六步，答案聚合：从多个执行路径的输出中通过多数投票选择最终答案。

技术新颖性

DTR的技术新颖性主要体现在以下几个方面：首先，在问题形式化上，首次提出Deep Tabular Research任务，将表格推理从简单的事实检索扩展到长时序多跳分析推理，定义了执行基础范式（Execution-Grounded Paradigm），其中推理状态随执行动态演变。其次，在方法设计上，引入元信息图捕获双向层次语义，这比传统的扁平表头表示更能反映真实表格结构；设计期望感知选择机制，理论证明了其有界性和收敛性。第三，在执行机制上，设计[THINK]+[CODE]的结构化提示策略，将语义推理与代码生成分离，代码错误率从42.3%降至28.4%；引入孪生结构记忆同时处理量化反馈和语义经验，实现跨实例的知识迁移。

实验结果

实验在两个基准上进行了全面评估，DTR在所有维度上都取得了最优性能。在DTR-Bench上（表1），DTR (DS-v3) 的准确率Win Rate达到1.93，Score Rate达到37.53，分析深度Win Rate为30.23，可行性Win Rate为27.62，美观度Win Rate为42.74，全面超越所有基线。特别值得注意的是，DTR仅需平均4.78次LLM调用，而CodeLoop需要8.8次，ST-Raptor需要9.2次。在RealHitBench上（表2），DTR (DeepSeek-v3) 在事实检查任务上EM达到58.22、F1达到64.47，数值推理EM达到55.51、F1达到61.98，结构理解EM达到56.57、F1达到77.95，数据分析LLM-EVAL达到70.90，图表生成Pass@1达到52.69、ECR达到100.00。消融实验（表3）表明每个组件都有贡献：元信息+1.3点，查询分解+1.4点，期望感知选择+0.9点，抽象经验+0.4点。效率分析（图3）显示DTR在4.78次调用处达到最优效率，避免了过度迭代导致的性能下降。

查看结构化数据

任务	指标	本文	基线	提升
DTR-Bench 整体性能	Accuracy Win Rate	1.93	TreeThinker 1.83, DeepSeek-V3.2 1.28	比最强基线TreeThinker高5.5%
DTR-Bench 整体性能	Accuracy Score Rate	37.53	DeepSeek-V3.2 33.52, TreeThinker 31.00	比最强基线高12.0%
DTR-Bench 分析深度	Analysis Win Rate	30.23	TreeThinker 22.82, DeepSeek-V3.2 25.22	比最强基线高19.9%
RealHitBench 事实检查	F1 Score	64.47	DeepSeek-v3 53.42, GPT4o 51.87	比最强基线DeepSeek-v3高20.7%
RealHitBench 数值推理	F1 Score	61.98	DeepSeek-v3 50.61, GPT4o 36.68	比最强基线DeepSeek-v3高22.5%
RealHitBench 结构理解	F1 Score	77.95	DeepSeek-v3 74.63, GPT4o 52.89	比最强基线DeepSeek-v3高4.4%
RealHitBench 图表生成	Pass@1	52.69	Code Loop (DS-v3) 20.78, GPT4o 10.39	比最强基线高153.5%
RealHitBench 图表生成	ECR	100.00	Code Loop (DS-v3) 39.60, GPT4o 25.32	比最强基线高152.5%

局限与改进

尽管DTR取得了显著成果，但仍存在一些局限性。首先，实验主要在英文表格和查询上进行评估，对其他语言和文化的泛化能力尚未验证。其次，框架依赖于预定义的种子操作库（如CLEAN, FILTER, GROUP, AGG等），对于需要全新操作类型的任务可能需要扩展操作库。第三，虽然DTR通过期望感知选择提高了效率，但平均仍需4.78次LLM调用，对于实时应用场景可能存在延迟问题。第四，孪生结构记忆的抽象经验部分依赖于LLM的推理能力来提炼可迁移模式，对于较小的模型可能效果有限。第五，当前的评估主要基于结构化基准，对于更加开放、模糊的现实分析场景（如需要领域知识的假设检验）的表现有待进一步验证。最后，框架假设表格已经加载到内存中，对于超大规模表格的处理能力需要进一步研究。

独立分析的弱点

DTR存在几个可以改进的弱点。首先，在操作映射阶段，系统依赖LLM从种子操作库中选择操作，但没有显式地建模操作之间的组合约束，可能导致生成无效或低效的操作序列。改进方向是引入操作兼容性矩阵或约束传播机制。其次，期望感知选择机制使用固定的超参数alpha控制探索-利用权衡，但最优的alpha值可能因查询复杂度和表格特性而异。可以设计自适应的alpha调整策略，根据执行反馈的方差动态调整。第三，抽象经验的提炼完全依赖LLM的推理，可能引入噪声或偏见。可以考虑使用更结构化的知识表示方法，如规则学习或图神经网络来提取可迁移模式。第四，答案聚合采用简单的多数投票，没有考虑不同路径的置信度差异。可以引入加权投票机制，根据路径的历史表现和执行质量分配权重。

未来方向

基于DTR的研究成果，可以延伸出多个有前景的研究方向。首先，可以探索多模态表格理解，将图表、图像等非文本信息纳入推理过程，这对于理解复杂的财务图表或科学数据可视化尤为重要。其次，可以研究跨表格推理，即需要整合多个相关表格信息才能回答的查询，这在现实的数据分析场景中非常常见。第三，可以探索主动学习机制，让系统能够识别其知识边界并主动请求人类专家指导或额外数据。第四，可以研究表格推理的可解释性，不仅输出答案，还能生成人类可理解的推理链和证据。第五，作者提出的执行环境E可以扩展为支持更复杂的工具，如数据库查询、API调用、机器学习模型训练等，实现真正的端到端数据分析自动化。

复现评估

论文在复现性方面提供了较好的支持。代码和数据方面，作者提供了DTR-Bench基准的构建细节，包括500个场景驱动的问答对、8种用户角色、专门的问题模板设计等。实验设置方面，详细列出了所有基线模型（TableGPT2-7B、TableLLM-7B、StructGPT、DeepSeek-V3、GPT4o、ST-Raptor、TreeThinker、CodeLoop）的配置和评估指标。算力需求方面，DTR平均需要4.78次LLM调用，相比CodeLoop的8.8次和ST-Raptor的9.2次更高效，但每次调用可能涉及复杂的代码执行，实际计算成本需要考虑代码执行环境。复现难度中等，主要挑战在于：需要搭建支持代码执行的智能体环境；期望感知选择机制的实现需要仔细设计路径统计和更新逻辑；孪生记忆的抽象经验部分依赖LLM的推理能力，不同模型可能产生不同效果。建议复现者从简单的表格场景开始，逐步验证各组件的效果。

基于持续经验驱动执行的深度表格研究 Deep Tabular Research via Continual Experience-Driven Execution