Grounded Continuation:一种面向 LLM 对话的线性时间运行时校验器
Grounded Continuation: A Linear-Time Runtime Verifier for LLM Conversations
AI 导读
研究者提出一种名为 Grounded Continuation 的运行时校验器,用于识别 LLM 长对话中建立在已被撤回前提上的续写,这类弱点正是上下文操纵攻击利用的对象。方法上,LLM Interpreter 把每句话映射为八种认知操作之一,符号引擎再把这些操作作用到记录各论断依据及其是否仍成立的依赖图上;判断一段续写是否有据,只需遍历该依赖图,耗时与图规模线性相关,且无需调用 LLM。撤回操作沿同一依赖图传播,并标出失去支持的结论。在五项 QA 模型上的实验显示,该校验器在考察信念修正的 ReviseQA 和 MemoryAgentBench 的 FactConsolidation 分片(MemAB-FC)上优于检索基线,把 MemAB-FC 单跳准确率从 0.46 至 0.95 提升到 0.94 至 0.98,使 7B 小模型在加持后超过未加持的 GPT-4o。