MemAdapter：用反事实适配缓解记忆诱发的谄媚

长期记忆即使事实正确且与任务相关，仍可能让智能体过度贴合用户历史观点。

• 场景：作者认为长期记忆支持个性化与长程交互，但历史信念、偏好和判断会被反复检索，形成记忆诱发谄媚（memory-induced sycophancy），并削弱事实性与客观判断；作者称这一问题在长程任务中更突出（第1节）。
• 既有不足：作者称既有方法把谄媚归因于有偏或错误记忆，并在抽取、检索或组织阶段过滤、抑制或重组。作者认为这忽略两点：风险不能只从记忆内容看出，且同一记忆的合理影响随当前任务变化（第1节，Figure 2b）。
• 观察：在只含事实正确且高度相关记忆的受控集合上，加入记忆后总体准确率从96.0%降到77.3%；无记忆时正确的预测中，19.4%在加入记忆后转错，且作者报告每次这类反转都跟随检索记忆（第2.1节，Figure 2a）。该初步实验的模型论文未写明。
• 方法：提出检索后框架MemAdapter，调节已检索记忆在推理中的角色与影响程度，不改上游构建或检索（第3节）。
• 威胁模型：
  • 受害系统：带外部记忆库的LLM智能体；从历史交互抽取、存储，并在新请求时检索记忆（第1节）。
  • 失败情形：回答过度贴合用户历史观点，即便这些观点不准确、过时，或与现有证据不一致。
  • 使用条件：作者称正确且任务相关的记忆仍可诱发谄媚；同一记忆可在一个任务中支持个性化，却不应在另一任务中压过任务证据。
  • 干预范围：MemAdapter及对照的记忆使用方法都在检索后运行，接收同一组候选记忆，不改记忆内容、顺序或检索来源（附录A）。

作者按记忆架构、生成前筛选和谄媚评测组织相关工作，并把区别放在检索之后如何使用记忆。

• 长期记忆系统
  • Generative Agents（Park等，2023）与Reflexion（Shinn等，2023）——保存经验或言语反馈，并在后续行为中检索。
  • MemGPT（Packer等，2023）与LongMem（Wang等，2023a）——用分层读写或外部检索器处理超出上下文窗口的历史。
  • MemoryBank、Mem0（Zhong等，2024；Chhikara等，2025）以及A-MEM、LightMem（Xu等，2025；Fang等，2026a）——做抽取、更新、巩固、遗忘或轻量多阶段组织。附录F对这组主要是描述。
• 生成前的检索控制
  • RAG，以及Self-RAG、FILCO、Corrective RAG（Lewis等，2020；Asai等，2024；Wang等，2023b；Yan等，2024）——引入外部证据，并判断何时检索、筛上下文，或在证据不足时纠正检索。
  • MemGate（Zhang等，2026）与OP-Bench中的Self-ReCheck（Hu等，2026）——按查询决定记忆是否进入上下文，或复检相关性以减少不必要个性化。作者称这些工作主要控制生成前暴露哪些信息。
• 谄媚与持久记忆失效
  • Sharma等（2024）、Wei等（2023），以及Hong等（2025）、Liu等（2025）、Jain等（2026）——研究模型优先同意用户、模仿错误观念，或在多轮中改口。
  • Recalling Too Well（Bensal等，2026）报告有损抽取会编码并放大用户错误信念；PersistBench（Pulipaka等，2026）考察持久记忆何时应遗忘；Mao等（2026）报告有状态个人智能体中的同意可经记忆跨会话积累。
  • 引言称Structured Memory（Hannoon等，2026）把记忆重组为领域结构后，记忆诱发谄媚仍大体未解决。MemSyco-Bench、BenchPreS、HUSH-Bench、STALE与MemTrapBench评测范围、偏好持久、敏感使用、有效性与认知陷阱。作者称检索到相关记忆并不保证记忆行为得当。
• 基线与基准：对照为Direct Generation，以及Anti-Sycophancy、Self-ReCheck、Dynamic Partition、MemGate；基准为MemSyco-Bench、PersistBench、MemTrapBench（第4.1节）。

作者将这项工作定位为检索后校准：既有方法主要干预推理之前的构建、检索、过滤和组织；记忆可以准确且相关，仍可能不足以支持当前结论；该工作不修改上游流水线（附录F）。

MemAdapter在检索之后调节已检索记忆如何参与推理，不改记忆构建、内容、顺序或检索来源（第3节，Figure 3）。三步分别发现潜在风险、落到当前任务、再在生成时守住边界。附录G给算法，附录H.1给三阶段提示词。

问题设定

• 输入是当前请求q、模型可见上下文与证据c、检索记忆集合M。
• 作者不把问题写成“这条记忆是否全局安全”，而写成：固定记忆，看它在哪些下游条件下影响变得不合适。
• 之后再判断该风险是否适用于当前请求与现有证据，并保留记忆的正当影响。

Counterfactual Induction

• 对每条记忆mi，只根据记忆写明的内容与范围确定任务类型，并为每类构造一个或多个具体设定；内容、来源和时间范围保持固定。
• 反事实任务空间为H_i={(t_ij,h_ij)}_j=1^N_i。tij是任务类型，hij是带具体请求与证据配置的设定。
• 对每个hij记录贡献vij：能支持什么、可影响推理或回答的哪一部分、不能正当化哪些结论，得到Vi。
• 比较Vi，保留贡献上的实质变化，丢掉仅措辞差异，合并等价设定，得到该记忆的条件边界Bi及全体B。Figure 3把单次评估分成三个固定轴：能支持什么、可能影响什么、不能正当化什么。

Context-Aware Reflection

• 输入q、c、M和B。先确定q要求的决定或回答，以及c中的相关证据与约束。
• 联合查看每条mi与Bi，并考虑记忆之间的更新、限定和冲突。反事实边界不直接决定当前任务。
• 输出自然语言指令集合U。每条ui写明该记忆可支持什么、可影响哪一部分及程度、不能正当化哪些结论。

Evidence-Based Reasoning

• 联合生成回答y和内部支撑轨迹L：(y,L)=REBR(q,c,M,U)。L把主要回答片段与角色、支撑来源、适用的记忆指令对应。
• 返回前核验来源存在且支持对应片段，且每次使用记忆都在其指令范围内。L只用于内部核验，只向用户返回y。
• 作者要求：可用于个性化或表述的信息，不应被提升为事实主张或客观决定的证据。论文未给MemAdapter自身的迭代次数或数值阈值。

实验设置

• 骨干：主结果用DeepSeek-V4-Flash（temperature 0.2，最大输出4,096 token，thinking关闭）。跨骨干另用GPT-5.6-sol（同样temperature 0.2与4,096）和本地Qwen3-8B（4-bit NF4、bfloat16、贪心解码、thinking关闭）。记忆构建需要LLM时用deepseek-V4-flash（附录A.3）。
• 记忆系统：A-MEM、Mem0、NaiveRAG、MemoryBank、LightMem。嵌入均为BAAI/bge-m3，维度1,024。MemTrapBench取top 10；PersistBench按实例取4–16条（附录A.2）。
• 对照：Direct Gen，以及检索后的Anti-Sycophancy、Self-ReCheck、Dynamic Partition、MemGate（门控分数超过0.07才保留）。同一记忆系统下，各方法共用一次检索得到的冻结记忆集（附录A）。
• 规模：MemSyco-Bench 1,550条（五类为300、300、300、300、350）；MemTrapBench 1,050条；PersistBench 500条（跨域200、谄媚200、有益记忆100，每条4–16条记忆，平均10条）。指标遵循各基准官方定义（附录D）。
• 指标：MemSyco的When to Use Memory、How to Use Memory和Avg. Acc.都是样本加权平均，所以与单任务准确率不是同一个数。PersistBench的Cross-domain与Sycophancy用FR@1/2/3：三次生成中至少一次法官分不低于3记失败（分值1–5）；Beneficial FR为单次生成，分2或3记失败。这些失败率以百分比报告，越低越好。MemTrapBench分数越高越好。
• 评审：法官确定性解码并返回结构化输出。论文未写明法官模型名称，也未报告与人工的一致性或主实验随机重复次数。第2节另有75条受控样本（每基准25条），模型未写明（附录B）。

主结果

据Table 1，骨干为DeepSeek-V4-Flash。下表为MemAdapter，括号是相对Direct Gen的绝对差。

表格较宽，可左右滑动

记忆系统	When Acc↑	How Acc↑	Syco FR@3↓	RF Score↑
NaiveRAG	90.78 (+16.58)	88.77 (+24.00)	53.50 (-26.50)	4.03 (+0.71)
A-MEM	91.22 (+15.69)	89.39 (+22.97)	55.50 (-24.00)	4.11 (+0.88)
Mem0	87.89 (+43.54)	82.15 (+26.00)	52.00 (-24.50)	4.01 (+0.50)
MemoryBank	90.56 (+26.67)	85.85 (+23.38)	51.00 (-31.00)	4.01 (+1.03)
LightMem	88.78 (+56.67)	84.31 (+40.46)	58.50 (-21.00)	4.07 (+0.39)

• 作者称五种系统上，When to Use与How to Use都上升，MemTrapBench的推理固着与信念扭曲分数都上升；谄媚失败率都下降。跨域失败率在四种系统上下降；LightMem的Cross-domain FR@3为30.50，相对Direct Gen为+0.50（Table 1）。
• 有益记忆失败率随系统而变：Mem0从4.00到1.00；NaiveRAG、A-MEM、MemoryBank、LightMem分别到2.00、4.00、9.00、9.00（Table 1）。作者称之为依赖记忆系统的权衡。
• 作者称在五种系统上，两个MemSyco维度都高于所列干预；A-MEM上When to Use比作者所称最强对照高0.44个百分点，How to Use高2.33个百分点。作者也称个别对照在某些维度更好（第4.2节）。

跨骨干

• 测了什么：MemSyco-Bench上换GPT-5.6-sol与Qwen3-8B，记忆系统、检索设置和候选记忆与主实验一致。Table 2只比较Direct Gen与MemAdapter。
• 结果：作者称两种骨干上样本加权平均准确率都上升。Qwen3-8B、LightMem从24.57到85.74（+61.18）；GPT-5.6-sol、LightMem从47.12到86.97（+39.84）（Table 2）。
• 例外：GPT-5.6-sol的Personalized Memory Use在NaiveRAG、A-MEM、Mem0上为-5.00、-9.00、-3.66，LightMem与MemoryBank为+2.87、+1.00。作者称增益随骨干、记忆系统和任务维度变化（第4.3节）。

组件消融

• 测了什么：DeepSeek-V4-Flash、MemSyco-Bench。B只做Counterfactual Induction；B+R再加Context-Aware Reflection；完整版再加Evidence-Based Reasoning。检索记忆相同（第4.4节，附录C.4）。
• 结果：NaiveRAG的Avg. Acc.从Direct Gen的70.25到B的84.26、B+R的85.16、完整版89.94；A-MEM从71.71到84.19、85.68、90.45（Table 3）。作者称三阶段有互补贡献，且B相对Direct Gen的提升来自增加的反事实阶段。
• 例外：附录Table 8中，Mem0的Personalized Memory Use完整版为74.33，低于B的79.33；LightMem的B+R平均为81.87，低于B的82.27。作者称中间变体的相对收益随记忆系统变化，但五种系统上完整版Avg. Acc.都是该组最高。

其他消融与分析

• 图2a：MemSyco-Bench、PersistBench、MemTrapBench准确率分别从96.0%到68.0%、100.0%到84.0%、92.0%到80.0%（模型未写明）。
• 表5：NaiveRAG的Memory–Evidence Conflict上，Self-ReC.与Dyn. Part.为100.00，MemAdapter为99.33。
• 表6：Task Boundary相对Direct Gen提升0.74–1.50；NaiveRAG的Trauma从4.85到4.83。
• 表7：MemoryBank的Sycophancy FR@1/2/3，MemAdapter为31.50/44.00/51.00，Direct Gen为64.50/79.50/82.00。
• 表8：MemoryBank仅B时Valid Memory Selection为73.71，低于Direct Gen的74.29。
• 表9：PersistBench上MemAdapter均值6.63–6.95秒/样本，P99为13.94–16.23秒。作者称其处于既有检索后干预的运行时间范围内。

作者指出的局限与后续方向

论文未专门讨论局限。Conclusion、Ethics Statement与附录没有把某项结果写成局限、不足或未来工作。

实验覆盖范围

• 生成骨干为DeepSeek-V4-Flash、GPT-5.6-sol、Qwen3-8B；Table 1的主结果使用DeepSeek-V4-Flash（第4.2–4.3节）。
• 记忆系统为A-MEM、Mem0、NaiveRAG、MemoryBank、LightMem；检索后对照为Direct Gen、Anti-Sycophancy、Self-ReCheck、Dynamic Partition、MemGate（第4.1节）。
• 基准为MemSyco-Bench（1,550）、MemTrapBench（1,050）、PersistBench（500）；跨骨干比较与组件消融写在MemSyco-Bench（第4.3–4.4节，附录C.4）。
• 嵌入模型为BAAI/bge-m3，维度1,024；MemTrapBench检索top 10，PersistBench按实例检索4–16条。初步对照为75条，每基准25条（附录A.2、B）。
• 论文未报告法官模型名称、第2节初步实验所用模型，以及主实验的随机重复次数；PersistBench的跨域与谄媚失败率使用每样本3次生成（附录A.3、D.3.1）。

MemAdapter是给长期记忆智能体用的检索后调节框架，用来处理记忆诱发谄媚。

• 问题：历史信念和偏好会在后续任务中被反复检索。作者认为，只在进入推理前过滤错误记忆不够，因为正确且相关的记忆仍可能超出当前任务允许的影响，同一记忆在不同任务里也不该起同样作用。
• 做法：固定每条已检索记忆，变化假设任务并归纳条件使用边界；再按当前请求和证据写成使用指令；生成时把回答片段对到证据或被允许的记忆影响，只把回答返回给用户。上游记忆构建和检索不变。
• 主结果：DeepSeek-V4-Flash、A-MEM上，When to Use Memory Acc.为91.22%，How to Use Memory Acc.为89.39%（Table 1）。五种记忆系统上谄媚FR@3都下降，其中A-MEM为55.50%。有益记忆失败率并不一律下降，MemoryBank升到9.00%。
• 其他设置：Qwen3-8B、LightMem的MemSyco平均准确率从24.57%到85.74%（Table 2）。GPT-5.6-sol上，个性化记忆准确率在NaiveRAG、A-MEM、Mem0下降。消融里，NaiveRAG的Avg. Acc.从70.25到完整版89.94（Table 3）。
• 作者结论：作者称，显式调节检索后的记忆使用，可以在不修改上游记忆系统的情况下改善长期记忆智能体的记忆使用（第5节）。