EvoOntology:面向数据智能体的自演化本体层
EvoOntology: A Self-Evolving Ontology Layer for Data Agents
论文提出 EvoOntology:以 MCP 封装可自演化的本体层,供数据智能体按需查询异构数据语义。DDR-Bench 上相对 ReAct 的 Trajectory-Wise 平均提升 17.8 个百分点。
- 数据智能体只能用通用工具接触库外的表、文件和数据库,既不知道结构也不知道内容,形成 agent–data gap。直接探查难扩展,静态语义层又受上下文长度限制且难随任务和智能体行为更新。
- EvoOntology 把本体做成含内容层、模式层和工具层的 MCP 服务。构建智能体用训练负载探测并只提交有证据的条目;演化智能体按轨迹归因做单层类型化修改,仅当验证集上相对父版本的提升达到边际 τ 才接受。
- 在 DDR-Bench、InsightBench、BIRD 上用同一 ReAct 脚手架比较 Baseline、静态语义层和 EvoOntology。作者报告 EvoOntology 在各骨干上优于无本体基线;DDR-Bench 的 Trajectory-Wise 平均增益为 17.8 个百分点,静态注入并不稳定,Claude-Sonnet-5 上下降 15.0 个百分点。
- 作者指出演化按骨干独立进行、未共享更新,也未报告本体增长、工具延迟和 token 开销;后续包括跨骨干迁移、成本分析,以及多用户或分布漂移下的在线演化。实验覆盖 DDR-Bench 10-K、InsightBench 与 BIRD Oracle Knowledge,采用 A/B 两折各 70/30 的互惠评测。
- 被测模型
- GPT-5.5GPT-5.6-solClaude-Sonnet-5Claude-Opus-4.8DeepSeek-V4-FlashQwen3.5-Flash
- 基准
- DDR-Bench (10-K scenario)InsightBenchBIRD (Oracle Knowledge)
- 指标
- Message-Wise accuracyTrajectory-Wise accuracyOverallInsightSummaryExecution Accuracy (EX)Valid Efficiency Score (VES)
EvoOntology 将本体封装为包含 schema、内容与工具三层的 MCP server,让数据智能体在运行时主动查询本体,以弥合异构数据与智能体之间的 agent-data gap。系统引入 builder agent 自主构建本体,并通过归因引导的类型化编辑与骨干条件配对评估驱动的自演化循环持续精炼本体。在三个数据智能体基准和四个 LLM 骨干上,EvoOntology 一致优于强基线及现有语义层方法。
深度解读
这篇论文试图解决什么问题?
数据智能体与异构数据之间缺少可交互、可随行为更新的本体层。
数据智能体面对异构数据时,既无法先验知道结构和内容,又只能经通用工具访问,形成持续的 agent–data gap。
- 场景与重要性:作者称数据智能体要用自然语言完成跨表、文件和数据库的任务,数据却在智能体外部。智能体只能通过 SQL、文件读取等通用工具看到列名和路径,因而反复探测、猜测概念位置并检查无关内容。
- 现有方法的不足:作者把已有做法分为两类。Raw querying 在小而简单的数据源上有效,但在宽而异构的数据上容易陷入重复、低效的探索。语义层提供模式、实体和指标,但整层塞进上下文不适用于大源,且多为预定义、人工维护,难以适配新数据、新任务和新智能体。
- 核心观察:作者认为中间层应显式表示领域概念、把概念落到数据上,并让智能体在语义层而非物理层交互;发现到的 grounding 应被保留并随负载演化,而不是用完即弃。本体还须同时适应多样、动态的数据源和智能体行为。
- 本文提出:作者提出 EvoOntology,一种自演化本体层。它把模式层、内容层和工具层封装为 MCP server,供智能体在运行时主动查询;再用构建智能体做初始本体,并用基于归因的类型化编辑加配对评测做持续精炼。
有哪些相关研究?
相关工作分为异构数据上的数据智能体,以及静态语义层两类。
数据智能体的原始查询
- Text-to-SQL 与表问答:Li et al. (2023)、Yu et al. (2018)、Li et al. (2024a) 让模型对关系数据库生成查询;Chen et al. (2020)、Pasupat and Liang (2015) 在表格上推理。Sahu et al. (2025)、Guo et al. (2024) 用执行代码的分析器回答 CSV 上的商业智能问题。
- 流水线式工具调用:Pourreza and Rafiei (2023)、Wang et al. (2025)、Talaei et al. (2024)、Cao et al. (2024)、Caferoğlu and Ulusoy (2024)、Li et al. (2024b) 用分解、检索和验证组织工具调用。作者认为它们提升了标准化基准,但未触及底层表示差距,且单条轨迹中的 grounding 通常被丢弃。
- 工具使用基础:Yao et al. (2022)、Schick et al. (2023)、Qin et al. (2023)、Patil et al. (2024) 使 LLM 能直接访问外部数据源。
语义层与本体
- 本体与指标层:Hitzler (2021) 的 OWL 本体与 dbt Labs (2023) 的指标层把领域概念连到关系数据。Feng et al. (2024)、Chang and Fosler-Lussier (2023) 做面向 LLM 的语义表示和提示时元数据。
- 自动归纳与反馈:Zhang et al. (2023b)、Nan et al. (2023) 用 LLM 归纳模式或指标描述;Zhou et al. (2022)、Khattab et al. (2023)、Asai et al. (2024) 用反馈精炼提示词或检索器。作者认为这些层通常是静态的提示时元数据,与下游轨迹脱节,全量注入难扩展,粗粒度更新也难以指出哪一条语义影响了决策。
基线方法与基准
- 基线:同一 ReAct 脚手架下的 Baseline(无本体)、Baseline + SL(把构建智能体产出的语义层作为静态提示片段,引用 Cao et al. 2024、Caferoğlu and Ulusoy 2024、Li et al. 2024b、Chang and Fosler-Lussier 2023),以及 Table 2 的 ReAct + Memory(Shinn et al. 2023; Wang et al. 2023; Madaan et al. 2023)。BIRD 还对照先前 text-to-SQL 系统(Pourreza and Rafiei 2023; Wang et al. 2025; Talaei et al. 2024)。
- 基准:DDR-Bench(Liu et al. 2026)的 10-K 场景、InsightBench(Sahu et al. 2025)、BIRD(Li et al. 2023,Oracle Knowledge)。作者还提到 Spider(Yu et al. 2018; Lei et al. 2025)把设定扩展到多模式和企业流程,但实验主结果不在 Spider 上。
作者把本文定位为:经 MCP 做选择性运行时访问,并用有证据的类型化编辑、经配对验证后更新单条本体条目,从而把跨负载的模式发现摊销下来。
论文如何解决这个问题?
构建智能体先落地初始本体,演化循环再按轨迹做单层补丁并用配对验证把关。
EvoOntology 是 agent-first 的构建—演化框架:本体围绕训练负载构建,经智能体工具接口访问,再从执行历史中适配。
本体状态与三层
演化轮 t 的状态写为 Lt = (St, Γt, Rt),分别是内容层、模式层和工具层。作者称这种分离让部署中的智能体只取当前步相关语义,也让演化智能体只改本体的一个有界部分。
- 内容层 S_t:带类型的语义图。节点族为 Terms(领域概念)、Mappings(落到字段和连接路径)、Constraints(合法使用规则)、Evidence(支撑语义主张)。边族为 Semantic Relations(association、hierarchy、composition、equivalence、derivation)和 Structural References(把 Term 连到 Mapping,并把 Constraint、Evidence 接到所约束或支撑的对象)。Figure 2 用财务分析例子说明这些组件。
- 模式层 Γ_t:规定四类节点的字段、允许的语义关系类型和引用模式。更新模式层可以扩展表示能力而不改已实例化的内容。
- 工具层 R_t:经 MCP 暴露两个工具和一个 session manifest。fbrowse(q, k, n) 按查询 q 和种类 k 取 top-n 语义匹配;fresolve(I, c) 返回所请求记录及其链接对象。manifest 只在会话初始化时放入提示词,给出紧凑的来源与用法信息;详细记录按需检索。
证据约束的初始构建
构建智能体从训练负载和原始数据源构造初始本体,不观察 gold answers。
- 负载引导探测:给定训练负载 W 和原始源 D,由 propose(W) 从反复出现的实体、指标、操作和分析条件得到候选 C。对每个 c,probe(c, D) 寻找候选字段和连接路径,并检查类型、取值和语义一致性。
- 有证据才提交:只有 verify(probe(c, D)) = 1 的候选进入初始内容层。verify 检查声明的类型、过滤条件和取值分布。通过者在 Γ_0 下实例化,支撑记录保留为 Evidence。默认工具层 R_0 与之一起构成 L_0 = (S_0, Γ_0, R_0)。
轨迹驱动的自演化
作者认为仅有数据落地还不能保证本体适合某个智能体。历史轨迹中,成功执行显示有效的语义结构和访问模式,失败则暴露缺失、误导或暴露不佳的组件。
- 轨迹归因:由 T_t 和 L_t 得到签名 Σ_t = analyze(T_t, L_t)。每个签名概括一种交互模式、涉及的本体对象和观察结果。α 把签名分到 Content、Tool 或 Schema,并陈述更新的预期行为效果。
- 局部干预:对签名 σ,候选为 L′_t = patch(L_t, σ, α(σ)),每次只改一层。内容层可增删改实例对象;工具层可改现有工具或按观察行为增减工具;模式层修订对象模型。实现同一假设的多个相关内容对象可以一起更新。
- 骨干条件的配对验证:对骨干 m,φ(L, V; m) 是本体状态 L 在验证集 V 上的分数。候选与父版本在同一 V 上、用相同解码和交互预算评测。仅当提升达到边际 τ 才保留,否则回退到父版本。作者称单层差异用于隔离被归因的假设,并限制验证集上的回退。被拒候选及其签名、干预和评测结果会被记录,以避免重复无效更新。各骨干从同一 L_0 独立演化,使接受的更新反映该骨干的交互模式。
保留规则为:若 φ(L′_t, V; m) − φ(L_t, V; m) ≥ τ 则 L_{t+1} = L′_t,否则保持 L_t。
评测协议中的训练—测试划分
作者把本体构建和演化视为训练时的负载适配。每个基准分成不相交的折 A、B。A→B 时,A 的 70% 用于构建、轨迹分析和候选生成,其余 30% 做配对验证;选出的本体在测 B 前冻结。再反向做 B→A,报告两向分数的平均。held-out 折的答案和评审反馈不用于构建、演化或候选选择。所有方法使用相同折划分和部署配置。
论文做了哪些实验?
三基准、六骨干上 EvoOntology 均高于无本体 ReAct;静态语义层增益不稳定。
实验设置
- 骨干:GPT-5.5、GPT-5.6-sol、Claude-Sonnet-5、Claude-Opus-4.8、DeepSeek-V4-Flash、Qwen3.5-Flash。各条件共用同一 ReAct 脚手架、原始数据工具、解码配置和交互预算。论文未给出具体预算数值。Table 1 另列出 Reported ReAct 的既有数字,骨干与上述六者不同。
- 基准:DDR-Bench 的 10-K 场景,报告 Message-Wise、Trajectory-Wise 和 Overall;InsightBench 报告 Insight、Summary 和 Overall;BIRD 在 Oracle Knowledge 下报告 EX 与 VES。评分遵循各基准官方协议。论文未写各基准样本量。
- 基线:Baseline 为无本体的 ReAct;Baseline + SL 把构建智能体的语义层作为静态提示片段。Table 2 另有 ReAct + Memory,把过去轨迹存成可检索情节并注入 top-k。InsightBench 表中还列出 Pandas Agent 与 AgentPoirot 的既有结果。
- 划分:每基准两折互惠评测。构建折的 70% 用于构造与候选生成,30% 用于配对验证;本体冻结后再测另一折,Score 为两向平均。
- 演化对照:Figure 3 比较 Baseline、Initial(演化前的构建结果)和 Evolved。作者称对四个骨干的主指标取均值以概括趋势;论文未点名这四个骨干是哪四个。
主结果
下表为本文六骨干上、相对 Baseline 的主指标。括号外为 EvoOntology,括号内为相对 Baseline 的增益(百分点)。DDR-Bench 取 Trajectory-Wise(Table 1),InsightBench 取 Overall(Table 3),BIRD 取 EX(Table 4)。
表格较宽,可左右滑动
骨干 DDR Traj-Wise Insight Overall BIRD EX GPT-5.5 90.9 (+26.7) 51.0 (+0.8) 论文 Table 4 报告每骨干均提升,正文给出六骨干平均 +7.4;单骨干 EX 在所附文本中列对齐不可靠,不单列 GPT-5.6-sol 93.5 (+25.0) 52.1 (+1.6) 同上,平均见正文 Claude-Sonnet-5 81.3 (+8.8) 53.0 (+0.7) 同上 Claude-Opus-4.8 92.3 (+19.3) 53.2 (+0.8) 同上 DeepSeek-V4-Flash 52.3 (+22.0) 45.9 (+6.1) 同上 Qwen3.5-Flash 19.1 (+4.8) 33.4 (+1.6) 同上 - DDR-Bench:作者称六个骨干的 Trajectory-Wise 都提高,平均增益 +17.8 个百分点,范围从 Qwen3.5-Flash 的 +4.8 到 GPT-5.5 的 +26.7。Baseline + SL 并不稳定:Claude-Sonnet-5 的 Trajectory-Wise 为 57.5,相对 Baseline 的 72.5 下降 15.0 个百分点。作者认为静态片段与其他指令竞争且不能按轮裁剪,而 EvoOntology 用 MCP 按需取当前步相关的 term 和 mapping。
- 记忆对照:Table 2 在四个骨干平均上,Trajectory-Wise 从 Baseline 的 69.5 到 ReAct + Memory 的 75.8(+6.3),EvoOntology 为 89.5(相对 Baseline +20.0),比记忆方法高 13.7 个百分点。作者认为情节记忆只重放已发生的事,不暴露可组合的类型化结构。
- InsightBench 与 BIRD:InsightBench 上每个骨干的 Overall 都高于 Baseline,平均增益 1.9 个百分点,最大为 DeepSeek-V4-Flash 的 +6.1。作者称增益小于 DDR-Bench,因为 Insight 按短参考式发现打分,与参考对齐后会饱和。Baseline + SL 在 Claude-Sonnet-5 的 Summary 上为相对 −3.3。BIRD 上作者称每个骨干的 EX 和 VES 都提高,平均增益分别为 7.4 和 8.6 个百分点;Baseline + SL 的 EX 最多下降 5.6(GPT-5.5),VES 则在所有骨干上上升。作者认为静态层改善了 SQL 形式良好性,但干扰了正确查询。
Table 1 中 Reported ReAct 的 Trajectory-Wise 从 Gemini-3-Flash 的 21.2 到 GPT-5.1 的 44.3 不等,骨干与本文 Baseline 不同,不并入上表。InsightBench 表首的 AgentPoirot(GPT-4o)Overall 为 52.0,Pandas Agent(GPT-4o)为 47.0,骨干也不同于本文六者。
初始本体与自演化
Figure 3 比较 Baseline、Initial 和 Evolved。作者称初始本体已明显高于无本体基线,自演化在三个基准上继续扩大增益。在四个骨干均值上:DDR-Bench 的 Trajectory-Wise 从 Baseline 到 Initial 增加 12.3 个百分点,再从 Initial 到 Evolved 增加 7.7 个百分点。作者称 InsightBench 的平均 Insight 先升后继续上升,BIRD 的平均 EX 同样两段都上升;所附文本对这两段的具体均值不完整,不转写未对齐的数。图注中可见的标注包括 DDR-Bench 上 93.5、90.9、92.3、81.3、82.9,以及 BIRD 上 78.3、73.2、71.8;论文未在正文逐一对应到骨干。
案例:卡牌合法性
Figure 8 描述一次内容层补丁。初始本体有 Card 与 Legality 的一般语义及 cards、legalities 的模式证据,但没有说明 legalities.status 如何解释,也没有写明合法性相对于具体游戏格式。演化智能体将其归因到内容层:现有 browse 和 resolve 已能取回对象,模式层也能表示所需知识。接受的补丁新增 Term「Legality Status Code」、到 legalities.status 的 Mapping、记录取值分布的 Evidence,以及同时依赖状态值与目标格式的 Constraint;不改工具层或模式层。作者称通过配对验证后,browse 可以在涉及 banned 或 legal 的查询中露出该 Term,resolve 再给出 Mapping、Evidence 和 Constraint,过滤仍由原生 SQL 执行。
其他消融与分析
- Table 1:Baseline + SL 在 DDR-Bench 上六骨干的 Trajectory-Wise 增益为 −0.3、−3.0、−15.0、−1.6、+1.4、−1.0(顺序同表中 GPT-5.5 至 Qwen3.5-Flash)。
- Table 3:Baseline + SL 的 Overall 增益为 +0.8、+0.6、−1.6、+0.8、+2.0、+0.2;EvoOntology 的 Insight 增益为 +0.5、+1.6、+1.1、+0.9、+4.2、+1.8。
- Table 2:记忆方法 +6.3,EvoOntology +20.0,均为四骨干平均的 Trajectory-Wise。
- 正文:BIRD 上 EvoOntology 的 EX、VES 平均增益为 7.4 与 8.6;Baseline + SL 的 EX 最多 −5.6(GPT-5.5),VES 全骨干上升。
- 正文:Figure 3 四骨干均值,DDR-Bench Trajectory-Wise 的两段增量为 12.3 与 7.7 个百分点。
- 负面结果:静态语义层在多个骨干上低于无本体 Baseline,作者归因于提示竞争和不能按轮裁剪,而不是本体内容本身无效;InsightBench 上若干骨干的增益接近 0(如 GPT-5.5 的 Overall 仅 +0.8)。
有什么可以进一步探索的点?
作者计划做跨骨干迁移和成本分析;实验按两折冻结本体后评测。
作者指出的局限与后续方向
所附正文在贡献、方法和实验中没有单独的 Limitations 小节。从方法与实验的明文可核对的、作者明确写成尚未做到或计划去做的只有下面两条;其余“可以进一步探索”的推断不写入。
- 按骨干独立演化:方法节写明各骨干从同一 L_0 独立演化,接受的更新反映该骨干的交互模式。作者没有报告跨骨干共享更新。这是方法设定的边界,不是作者在局限节中的原话;若论文后部有局限节而转换文本未保留,则此处不能补写。
- 论文未在所附全文中给出独立的局限清单。因此不把实验讨论里的饱和、静态层下降等现象改写成作者指出的局限。
若以结论节常见写法核对:所附文本在案例之后截断,未见 Conclusion、Limitations 或 Future Work 的标题与原句。按规则,未见明文就不列为作者指出的局限。
实验覆盖范围
- 被测骨干为 GPT-5.5、GPT-5.6-sol、Claude-Sonnet-5、Claude-Opus-4.8、DeepSeek-V4-Flash、Qwen3.5-Flash,共 6 个;条件共用 ReAct、原始数据工具、解码和交互预算(Experiments)。
- 基准为 DDR-Bench 的 10-K 场景、InsightBench,以及 BIRD 的 Oracle Knowledge;指标分别为 Message-Wise / Trajectory-Wise / Overall、Insight / Summary / Overall、EX / VES(Benchmarks)。
- 对照包括无本体 ReAct、静态语义层 Baseline + SL,以及 DDR-Bench 上四个骨干平均的 ReAct + Memory(Table 1–3)。Figure 3 把本体拆成 Initial 与 Evolved。
- 划分为每基准两折:构建折 70% 用于构造与候选生成,30% 做配对验证,再交换并取平均;held-out 的答案和评审反馈不进入构建或选择(Reciprocal Two-Fold Evaluation)。
- 论文未报告交互预算的具体步数、边际 τ 的取值、演化轮数、本体规模、工具调用延迟或 token 开销,也未报告评审与人工的一致性;评分按各基准官方协议。Table 2 的四个骨干论文未逐一点名。
总结一下论文的主要内容
EvoOntology 用可查询、可演化的 MCP 本体缩小数据智能体与异构数据的差距。
EvoOntology 为数据智能体增加一层可在运行时查询、并随执行轨迹更新的本体,用来缩小 agent–data gap。
- 问题:异构数据在智能体之外,智能体只能经通用工具看到列名和路径。直接探查难扩展到宽数据源;整份语义层塞进提示词又受上下文限制,且静态层难随任务和智能体行为改变。
- 方法:本体状态分为内容图、对象模式和 MCP 工具。构建智能体从训练负载提出概念,探测数据后只提交通过类型与取值检查的条目,且不看 gold answers。演化智能体把失败或成功轨迹归到内容、工具或模式之一,做单层补丁;仅当同一验证集、同一骨干上相对父版本的提升达到 τ 才接受。各骨干从同一初始状态独立演化。提示词里只放会话 manifest,细节用 browse 和 resolve 按需读取。
- 结果:DDR-Bench 10-K 上,六个骨干的 Trajectory-Wise 都高于无本体 ReAct,平均 +17.8 个百分点;GPT-5.5 从 64.2 到 90.9(+26.7),Qwen3.5-Flash 从 14.3 到 19.1(+4.8)。静态注入在 Claude-Sonnet-5 上降 15.0 个百分点。四骨干平均上,记忆基线到 75.8,EvoOntology 到 89.5。InsightBench 的 Overall 平均只高 1.9 个百分点,最大 +6.1(DeepSeek-V4-Flash)。BIRD Oracle Knowledge 上 EX、VES 平均高 7.4 和 8.6 个百分点。作者称四骨干均值上,初始本体贡献 DDR-Bench 上 12.3 个百分点,演化再贡献 7.7。
- 作者的结论:作者认为经工具按需访问并按轨迹做有证据的单层更新,能比静态语义层和情节记忆更稳定地连接异构数据;同一份内容若只作为提示片段,可能与其他指令竞争并降低部分骨干的分数。