智能体记忆如何可靠处理不可回答问题：一项系统研究

现有智能体记忆能否可靠处理不可回答问题（UAQ），以及存什么才有用，仍不清楚。

• 场景： 作者认为LLM已部署到可靠性重要的场合，但仍难处理虚假前提、不存在实体、证据不足或未消歧的问题。作者认为可靠系统应拒绝无支持请求、必要时澄清，或谨慎行事，而不是给出自信但无效的答案。
• 现有缺口： 基准、提示、训练和检索已改进独立LLM或问答系统的拒绝与澄清。作者认为这没有充分刻画智能体：模型要在工具和外部环境中决定继续取证、质疑前提、澄清，或在证据不足时弃权。提示是静态指令，训练难更新且难检查，常规检索主要提供证据，而不是不确定时如何行动的可复用指导。
• 两个问题： 记忆可能保存找证据策略、失败教训和何时作答、澄清或弃权的标准，也可能传播误导启发式、放大数据集特有模式，或诱发过度谨慎。RQ1问分布内以及跨数据集、跨基座模型时是否可靠有效；RQ2问内容、组合和成功/失败经验哪一种更有用。
• 本文的分析： 在统一智能体RAG和固定Wikipedia环境中，比较四种代表性记忆方法、两个基座模型和三个UAQ相关数据集，并分解决策指导与轨迹塑造，以及表示、组合和成败经验。

讨论集中在不可回答问题与智能体记忆两条线，作者把本文放在二者交叉处。

不可回答问题

• 现象与基准： Yin等（2023）、Hu等（2023）讨论模型是否知道自己不知道，以及带虚假前提的提问。Liu等（2024）、Amayuelas等（2024）、Zhu等（2025b）分别从参数知识外的不确定性、known-unknowns和知识图谱虚假前提构建评测。
• 改进手段： Kim等（2025）做带弃权的对比解码，Zhu等（2025a）做拒绝感知指令微调，Peng等（2025）评测检索增强生成的不可回答性。引言称这些提示、训练和检索路线没有充分刻画智能体中的序列决策。

智能体记忆

• 经验复用： Zhao等（2024）、Ma等（2026）、Tang等（2025）把记忆用于长程推理、规划或经验复用。Hu等（2026b）被引为把过往交互蒸馏成未来决策指导的机制。
• 结构、表示与迁移： Zeng等（2024）、Jin等（2025）分析记忆结构，以及记忆与推理能力的分离。Feng等（2026）、Luo等（2026）讨论表示，Hu等（2026a）讨论经验复用的迁移。Related Work称既有记忆研究主要关注任务成功和执行效率。

基线与数据集

• 基线方法： No-memory；Human Hint，固定人工指导，实现参照Peng等（2025）；四种记忆方法为Expel（Zhao等，2024）、MemEvolve（Zhang等，2025）、AWM（Wang等，2024）、AgentKB（Tang等，2025）。附录称Mem0（Chhikara等，2025）和MemOS（Li等，2025）对UAQ没有有意义的增益，未进主实验，论文未给数字。
• 基准/数据集： KUQ（Amayuelas等，2024）、UAQFact（Tan等，2025）、RefuNQ（Liu等，2024）。评测环境是Wikipedia API上的ReAct智能体。

作者在Section 6把本文定位为连接两条线：相对主要评测独立UAQ处理或一般智能体性能的工作，本文在统一智能体框架下分析记忆的可迁移性、功能机制和内容表示。

在统一的agentic RAG中，智能体先与Wikipedia交互，再把轨迹蒸馏进外部记忆；新问题在交互开始前注入检索到的记忆（Figure 1）。

任务与环境

• 任务： 智能体收到问题q，按ReAct交替推理与行动，最终给出回应r。类型y为UAQ或ABQ。ABQ可用现有证据回答；UAQ来自虚假前提、缺失信息、不存在实体或未消歧。
• 期望行为： ABQ应返回有证据支持的正确答案；UAQ应恰当回应，可以拒绝或澄清，而不是幻觉式自信作答。作者将其视为答案正确性与行为调控的联合问题。
• 工具： Search按标题取页：不存在则返回提示和最多5个相关页面，存在则截断至1200字符。Lookup在当前页做关键词精确匹配，返回每次出现前后各2000字符。每题最多10轮。
• 样本： 每集按问题类型分层抽400条测试，标签和UAQ子类平衡。KUQ与UAQFact各另抽200条，从空库构建记忆。评测时记忆库固定，不用测试样本更新。RefuNQ只评测，因其只有一种合成UAQ。

外部记忆与对照

• 注入： 轨迹含推理、工具交互和最终回应。检索到的记忆在任务查询前作为额外user message注入，提供来自过去经验的决策指导，并可能影响随后探索。
• 四种方法： Expel存反思性insight和成功执行模式；MemEvolve存压缩轨迹摘要和抽象principle；AWM存工作流式程序记忆；AgentKB存结合规划与执行的结构化工作流包。核心构建与复用保留，嵌入模型、检索预算、环境和推理协议统一。
• 对照： No-memory不使用外部记忆。Human Hint走无记忆流程，但加入固定人工指导，实现参照Peng等（2025），不是学习到的记忆。Appendix C给出完整提示。
• 未进主实验： 附录称Mem0和MemOS对UAQ处理没有有意义的性能增益。

两个功能通道

• 分解： 决策指导指检索记忆经初始化上下文塑造行为策略；轨迹塑造指记忆改变环境探索中生成的轨迹。
• 三组推理： G只给检索记忆，轨迹用No-memory设置收集的轨迹；T不给检索记忆，但复用记忆引导下生成的轨迹；G&T为标准设置，两者都保留。
• 作者界定： 作者称两通道在智能体系统中不能完全分离，差异是相对功能证据，不是严格因果隔离。

内容表示

• 三族五类： 描述性为compact trajectory。规则类含insight（从单次交互抽多条局部教训）和principle（成功或失败蒸馏成一句策略或警示）。程序类含success trace（成功交互重组成编号动作）和workflow（整理成带标题的可复用流程）。类别并非严格互斥。
• 控制： Section 5共享同一智能体框架、检索、存储和推理协议，只改变表示。提取提示在Appendix C.2，示例在Appendix A.3的Table 8。
• 组合与极性： 成对混合不同表示；并分别用成功、失败和混合轨迹建库。附录另做成功与失败条目数量匹配的变体。

检索与判定

• 检索： 嵌入模型为Qwen3-Embedding-8B。相似度为语义0.7与词汇0.3的加权和。不设最低阈值，总取top-2。插入时跳过与库中完全相同的条目。Section 4还要求两条来自不同样本；Section 5取最相似的top-2。
• 运行： 温度0。主模型为DeepSeek-V3.2与Qwen3-235B-A22B-Instruct-2507。开源设置重复三次，每次含独立记忆更新和测试推理。GPT-5.5因API成本只跑一次。
• 指标： Acc是ABQ与金标的exact match。AR由gpt-5.4-mini判断；可接受行为是拒绝以免误导，或澄清歧义、提出针对性追问。联合分数为 JS = 0.7 · Acc + 0.3 · AR，权重跟随Peng等（2025）。
• 人工标注： 每集从No-memory随机抽100条UAQ，三人独立标注、多数票为最终标签。附录标注规则还包括指出虚假前提。Appendix A.4报告与LLM裁决的一致性。

分布内增益随基座模型和数据集变化；迁移、通道分解和内容分析用来拆这些增益从何而来。

实验设置

• 模型与环境： 智能体为DeepSeek-V3.2与Qwen3-235B-A22B-Instruct-2507；附录另有GPT-5.5。环境为Wikipedia的Search与Lookup，每题最多10轮，温度0。
• 数据： KUQ、UAQFact、RefuNQ各分层抽400条测试，可回答/不可回答及UAQ子类平衡。前两者各200条训练用于更新记忆；RefuNQ只评测。论文未写原始总规模和子类名称。
• 基线： No-memory、Human Hint，以及Expel、MemEvolve、AWM、AgentKB。测试时记忆库不更新，每问至多检索2条。
• 指标： Acc为ABQ与金标exact match。AR为UAQ可接受率，指拒绝以免误导，或澄清、提出针对性追问。JS为0.7乘Acc加0.3乘AR。
• 评审： AR由gpt-5.4-mini评判，提示在Appendix C.1。No-memory下每集100条UAQ、三人标注，300条中4条需多数票。Cohen's Kappa为KUQ 0.8835、UAQFact 0.8963、RefuNQ 0.9151（Table 9）。
• 重复： 开源结果为三次运行均值，每次重新更新记忆；标准差在附录。GPT-5.5只跑一次。论文未报告显著性检验。

主结果

分布内JS如下（Table 1）。DPSK为DeepSeek-V3.2，Qwen为Qwen3-235B。记忆在对应训练集更新后，于同分布测试集评测。

Swipe horizontally to read the table

方法	DPSK KUQ	DPSK UAQFact	Qwen KUQ	Qwen UAQFact
No-memory	41.55	64.63	41.98	62.80
Human Hint	49.47	61.92	50.45	60.12
Expel	45.95	64.57	44.38	63.42
MemEvolve	47.93	65.30	38.27	61.18
AWM	45.28	66.37	43.72	61.95
AgentKB	41.72	62.65	38.48	60.55

• 选择性增益： 作者称提升并非普遍。表中DeepSeek-V3.2的四种记忆在KUQ上都高于No-memory，UAQFact上只有部分更高；Qwen3-235B上低于No-memory的格子更多。Human Hint在KUQ高于No-memory，在UAQFact低于。作者认为这不是即插即用，效果取决于基座模型和数据分布。
• 平均变化： 作者对四种方法、两个分布内数据集相对No-memory取平均：DeepSeek-V3.2的AR/Acc/JS为+11.27/−2.14/+1.88个百分点，Qwen3-235B为+2.93/−2.54/−0.90。作者认为差别主要在两模型对谨慎指导的反应：前者AR升幅更大，后者AR升幅更小且仍损失Acc。
• 叠加Human Hint： Table 2里记忆多提高AR、降低Acc。例外是Qwen3-235B、KUQ上AgentKB的AR为46.17，低于Human Hint的60.83。DeepSeek-V3.2、UAQFact上四种组合的JS为58.23–60.77，均低于Human Hint的61.92；Qwen3-235B两个数据集的JS也都低于对应Human Hint。作者认为较高AR不应一律看成更好的可靠性，Acc下降与过度拒绝或过度谨慎一致。

跨数据集与跨模型

• 跨数据集（Table 3）： 用一个训练集的记忆测其他数据集。作者称迁移有限，与数据集特有的可回答性模式绑在一起。DeepSeek-V3.2用KUQ记忆测UAQFact，四种JS的Δ为−2.80至−0.33；反向测KUQ为+0.25至+3.30。Qwen3-235B用UAQFact记忆测KUQ为−3.35至−0.06。也有正Δ，如该模型用AgentKB、UAQFact记忆测RefuNQ为+3.95；作者未单独解释这一格。作者称AR常升，但JS不一定升。
• 跨模型（Table 4，仅KUQ，JS）： 八个设置中六个高于No-memory，四个低于同模型记忆。DeepSeek-V3.2使用另一模型记忆时，Expel/MemEvolve/AWM/AgentKB的Cross JS为43.95/42.85/46.53/39.73，相对No-memory为+2.40/+1.30/+4.98/−1.82。Qwen3-235B为43.37/43.98/45.12/38.62，相对No-memory为+1.39/+2.00/+3.14/−3.36。作者称跨模型比跨数据集更稳定；摘要中的这一比较对应的是KUQ实验。

增益来自何处

• 设置： G只注入检索记忆、沿用No-memory轨迹；T不注入记忆、复用记忆引导轨迹；G&T两者都保留（Figure 2，数字见Table 15）。作者称结果是相对功能证据，不是严格因果隔离。
• G与T： 作者称在Expel、MemEvolve、AWM上，G通常强于T，KUQ上更明显。Table 15也有G低于T：DeepSeek-V3.2、UAQFact上MemEvolve为62.30对63.55；Qwen3-235B、UAQFact上Expel为60.73对62.38。两个模型在UAQFact上的全部T都低于该集No-memory JS（分别为64.63与62.80）。
• 组合与例外： 作者称G&T常常高于单一通道，有时单通道低于No-memory而组合恢复。例外：DeepSeek-V3.2、KUQ上Expel的G为46.60，高于G&T的45.95。作者称AgentKB的决策指导较弱；其G&T在该模型KUQ上为41.72，在Qwen3-235B上为38.48。

记忆内容、组合与成败

• 单类型（Table 5）： DeepSeek-V3.2、KUQ上workflow的JS为53.37，success trace为49.92，高于No-memory的41.55；同模型UAQFact上仅这两类略高于64.63（64.87、64.72）。Qwen3-235B、KUQ上compact trajectory为40.87、insight为40.07，低于41.98；UAQFact上仅success trace为64.37高于62.80，workflow为61.98低于No-memory。作者称程序记忆通常最有效，principle也有竞争力；表中并非每个模型、每个数据集都如此。
• 组合： 正文Table 6与Appendix Table 18的DeepSeek-V3.2 JS有多格不一致，Qwen3-235B列一致。附录AR、Acc可回算出其JS。附录中DeepSeek-V3.2的success trace+workflow为58.03，principle+workflow为57.85；Table 6对应格为54.38与56.02。两表中Qwen3-235B最高均为insight+workflow 45.63；compact trajectory+workflow为41.45，低于No-memory 41.98。作者称最强组合多含workflow，但同类程序记忆相加并不总是增益最大。
• 成败（Table 7，KUQ，JS）： compact trajectory的success-only在两模型上最高，为47.80与48.35；failure-only为43.80与39.53。principle的failure-only在DeepSeek-V3.2上为46.90，高于success-only的43.52；Qwen3-235B上failure-only 41.03高于success-only 39.22，但低于Both的43.10。insight的极性差异较小。Table 7的principle Both（45.90）与Table 5的principle（45.75）不一致，此处不合并。作者认为描述性轨迹更受益于成功样例，抽象规则有时能从失败中得到指导。

其他消融与分析

• GPT-5.5单次（Table 12）：KUQ上No-memory/Expel/MemEvolve/AWM的JS为45.95/49.60/49.55/49.80；UAQFact为64.00/65.50/65.95/67.00。作者称六次比较平均后，AR/Acc/JS变化+2.75/+3.00/+2.93个百分点。UAQFact上MemEvolve的AR为49.50，低于No-memory的50.00。
• 数量匹配的成败消融（Table 20，KUQ）：DeepSeek-V3.2的compact trajectory，success-only JS 51.87，failure-only 43.60；其principle的success-only 46.43，高于failure-only 44.88。Qwen3-235B的principle，failure-only 43.08，高于Both 41.47与success-only 40.88。作者称控制数量后仍取决于内容，但principle的最优设置变得不那么稳定。
• Mem0与MemOS（Appendix A.2）：作者称没有有意义的性能增益，论文未报告数字，未纳入主实验。

作者明确写出的范围，是UAQ可靠性、固定工具环境，以及尚未优化的AR与Acc权衡。

作者指出的局限与后续方向

• 任务范围： 关注可靠UAQ处理而非一般智能体性能，发现可能不能直接推广到目标差异很大的任务（Limitations (1)）。
• 设计空间： 评测了若干代表性记忆方法、数据集和基座模型，并不打算覆盖全部记忆设计空间。内容消融针对统一流水线下可分解的表示，更适合分析核心表示效应，而不是复现每一种耦合的端到端设计（Limitations (2)）。
• 环境： 实验都在固定的智能体RAG和工具环境中。Wikipedia上的ReAct环境只有Search和Lookup，不覆盖异构工具、动态网页来源，或更丰富设置中的长程多源证据聚合。作者举出GAIA式任务或Deep Research系统，并称在这些设置中评测对外部效度重要（Limitations (3)）。
• 权衡： 结果看到记忆可能以提高AR、牺牲Acc为代价，但没有提出明确优化这一权衡的方法。后续可以探索按可回答性做记忆检索或路由，对可能可回答与可能不可回答的问题使用不同指导（Limitations (4)）。

实验覆盖范围

• 模型： 主实验基座为DeepSeek-V3.2与Qwen3-235B；附录另有GPT-5.5单次分布内评测，方法为No-memory、Expel、MemEvolve、AWM（Appendix B.1、Table 12）。
• 数据： 数据集为KUQ、UAQFact、RefuNQ。记忆更新用KUQ与UAQFact各200条训练样本，每集测试400条；RefuNQ只做评测（Section 3.1）。论文未报告三个数据集的原始总规模。
• 方法： 主比较为Expel、MemEvolve、AWM、AgentKB，另有No-memory与Human Hint。附录称Mem0、MemOS初步评估后未纳入主实验，且未报告数字（Appendix A.2）。
• 分析： 迁移包括跨数据集（Table 3）和仅KUQ上的跨模型（Table 4）。功能分解为G、T、G&T（Section 4.3）。内容分析为五类表示、成对组合，以及成功/失败/混合和数量匹配变体（Section 5，Appendix B.5–B.6）。
• 统计与评审： 开源主结果为三次运行均值，标准差在附录；论文未报告统计显著性检验。AR评审模型为gpt-5.4-mini，并在No-memory、每集100条UAQ上报告了与人工标注的Cohen's Kappa（Appendix A.4）。

这份研究在同一智能体框架里检查外部记忆会不会让不可回答问题的处理更稳，以及稳来自哪一种存储内容。

• 问题： 智能体不能只补缺失事实或执行固定拒绝指令，还要决定继续取证、质疑前提、澄清或弃权。提示、训练和常规检索分别是静态指令、难更新的参数偏好和外部证据，作者认为都没有充分提供不确定时如何行动的可复用指导。
• 做法： 在只有Search和Lookup的Wikipedia ReAct环境中，用KUQ与UAQFact各200条训练轨迹从空库构建Expel、MemEvolve、AWM和AgentKB，测试时不更新。每集测试400条。影响被拆成决策指导与轨迹塑造；内容被分成描述、规则和程序记忆，并单独比较成功与失败轨迹。
• 分布内： 作者汇总四种方法、两个数据集，相对No-memory，DeepSeek-V3.2的AR/Acc/JS平均变化为+11.27/−2.14/+1.88个百分点，Qwen3-235B为+2.93/−2.54/−0.90。有帮助时主要是AR上升，Acc常下降。附录中GPT-5.5单次运行，三种记忆方法在两个数据集的JS都高于No-memory（Table 12）。
• 迁移： 跨数据集的JS方向随源和目标变化。例如DeepSeek-V3.2把KUQ记忆迁到UAQFact时，四种方法的JS Δ均为负；反向迁到KUQ时均为正。KUQ上八个跨模型设置中六个高于No-memory，AgentKB在两个基座上都低于No-memory（Table 4）。
• 何种记忆： 作者认为增益更多经决策指导保留，轨迹塑造是次要且互补的来源；Table 15里两个模型在UAQFact上的轨迹通道JS都低于No-memory。workflow在DeepSeek-V3.2、KUQ上JS为53.37，高于No-memory的41.55（Table 5），但Qwen3-235B的UAQFact上workflow低于No-memory。未做数量控制时，compact trajectory更受益于成功样例，principle在DeepSeek-V3.2上更受益于失败轨迹（Table 7）。
• 作者结论： 作者认为可靠的UAQ记忆较少取决于存储更多经验，更多取决于是否保留可迁移的行为指导；并认为设计应保持AR与Acc的平衡，而不是单独最大化弃权。