跳到正文
原文
Hugging Face Daily Papers·· 4 天前

论文提出 DerivAudit:审计长期 Agent 记忆是否真由交互历史支持

Memory Is a Derivation: The Distributed-Evidence Paradox in Long-Term Agents

AI 导读

论文指出长期运行的 LLM Agent 会把过往交互压缩成持久记忆并作为后续任务前提,由此产生推导问题:记忆未必真由交互历史支持。作者用证据范围、组合有效性、准入可靠性三项要求刻画该问题,并提出 DerivAudit 审计框架,区分支持证据是否超出写入方给出的引用、组合后的记忆是否引入历史未确立的含义、以及写入时的准入决策如何影响后续记忆使用。在两个自然记忆语料上,使用更广的写入前历史进行审计,可为近 60% 仅凭引用看似无支持的记忆找回支持,但仍有 17-21% 在扩展证据后依然无支持;更广的证据本身并不能让准入变得可靠,无支持记忆在多个验证模型下仍常被准入,且仅做证据扩展在两个骨干模型上反而使情况变差。

阅读原文huggingface.co