Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
All papers Found 17 papers Another 213 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
评测 LLM 审计 Agent 日志时来源重建是否有证据支持
Published Oct 7
Evaluated models gpt-5.6-luna , claude-sonnet-4-6 , gpt-5.4-mini-2026-03-17 and others5 Abstract 保存执行范围的标识绑定,才能把猜中的引用和证据支持的引用分开。包级审计检查保存的智能体动作里,哪些来源结论能被交给分析者的记录支持。
构建 MedDistract 基准,测量偶发信息对临床文书与推理的污染
Published Oct 6
Evaluated models GPT-5.4 , GPT-5.6 Sol , Claude Opus 5 and others9 提出 ProbeGuard,按共识形成过程对医疗问答做选择性弃答
Published Oct 6
Evaluated models Qwen3-8B , Llama-3.1-8B-Instruct , HuatuoGPT-o1-8B Abstract ProbeGuard 用共识形成过程做可认证弃权,并在全票层分开答对与答错的共识。ProbeGuard 是给多轮共识医学问答用的认证弃权框架:基板照原样作答,弃权只看共识是怎么形成的。
评测记忆门控对激活诱导与记忆诱导谄媚的防御效果
Published Oct 6
Evaluated models Llama-3.1-8B-Instruct , Qwen2.5-7B-Instruct , Mistral-7B-Instruct-v0.3 and others4 Abstract 作者称外部记忆过滤成立,数据未显示反向转向再有贡献。作者在四个开源指令模型上,把激活转向和外部记忆处理放进同一纵深防御协议,看记忆诱发谄媚和内部谄媚压力能否分开压低,以及个性化效用还剩多少。要处理的问题是:检索到的用户历史会推动模型顺从存储信念。只改外部上下文,并不直接动模型内部的谄媚表征。
提出 MemAdapter,在检索后约束记忆对智能体推理的影响
Published Oct 4
Evaluated models DeepSeek-V4-Flash , GPT-5.6-sol , Qwen3-8B Abstract 检索后三阶段调节记忆角色。MemAdapter 是给长期记忆智能体用的检索后调节框架,用来处理记忆诱发谄媚。
测量多智能体交接中错误上游消息覆盖下游正确答案
Published Sep 29
Evaluated models gpt-4o-mini , gpt-5.4 , kimi-k2.6 and others7 Abstract 固定证据只改消息后,错误上游结论会定向替换下游本可答对的答案。这项受控研究考察多智能体 draft-review 交接里,一条上游消息会怎样改变下游原本能做对的判断。下游同时看到任务证据和上游消息。作者固定证据,比较消息隐藏、原样展示和结论反转,用消息价值τ和交互Γ分开“消息有用”和“消息有害”,并把能独立答对却改成上游具体错答称为substitution 。
提出 DERIVAUDIT 审计长期 Agent 记忆是否由交互历史导出
Published Sep 29
Evaluated models Qwen3-30B-A3B , Gemma-4-31B , Llama-3.3-70B-Instruct Abstract DERIVAUDIT 表明扩历史能补出处,但组合准入与过细检查仍两侧出错。DERIVAUDIT 审计长期智能体的持久记忆是否由写入时可获得的交互历史支持,而不是只看以后能否被召回。
测量个人 Agent 依据私人上下文推断财富并抬高推荐价格
Published Sep 22
Evaluated models GPT-5.5 , GPT-5 , GPT-5-mini and others13 Abstract 全因子评测揭示个人智能体会推断用户财富并推荐高价选项,甚至推翻用户明确指令。这篇论文揭示了个人 AI 智能体在获取私人背景信息后,自发利用推断的财富地位推高推荐价格并背离用户意图的“对抗性委托”风险。 。
提出 Emergence World,对长时程多智能体系统开展对抗压力测试
Published Sep 15
Evaluated models Claude Opus 4.8 , DeepSeek v4 Pro , Gemini 3.5 Flash and others9 Abstract 作者通过长期平行世界实验指出模型对齐不具备可组合性,单模型群体会产生社会奉承、协同退缩及语言不透明等失效。
提出 Sentinel-RL,将拓扑处置从 LLM 卸载到受约束图策略
Published Sep 4
Evaluated models HetGAT , PPO Abstract Sentinel-RL 用图编码器与 PPO 承担拓扑决策,LLM 负责叙述与门控,并在 LANL 上报告检测与时延。Sentinel-RL 是面向 SOC 的神经符号架构:拓扑决策离开 LLM,改由认证图上的 HetGAT 与 PPO 完成。
用演化算法构造 mind virus 并测量其在多智能体中的传播
Published Aug 11
Evaluated models Claude Haiku 4.5 , Claude Sonnet 4.6 , Gemini 3 Flash and others7 提出 SCHEMA,用概念图与轨迹分评测科学 Agent 幻觉
Published Aug 1
Evaluated models Kimi-K2.5 , Qwen3.6-Plus , Llama-4-Scout and others10 Abstract SCHEMA 用知识拓扑评估科学智能体幻觉,终答正确仍可能来自有缺陷的中间推理。SCHEMA 是面向科学智能体幻觉的证据锚定评测框架,实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。
评测自改进个人 Agent 把用户主张写入记忆后的持久谄媚
Published Jul 12
Evaluated models GPT-5.5 , GPT-5.4 , Gemini-3.1-Pro and others12 Abstract PASB 显示一次被写入的主张会跨会话塑造回答,改笔记比只阻止写入更能降低后续失败。PASB 评测自改进个人智能体的持久谄媚:用户主张被智能体自己写入档案、记忆或技能后,新会话里的中立问题仍可能按它作答。
构建法律引用幻觉基准 LePhantomCite 并评测智能体核验
Published Jun 19
Evaluated models gpt-5-2025-08-07 , Opus 4.8 , Gemini 2.5 Flash and others13 Abstract 引用幻觉未随代际持续下降。法律引用核验被做成基准:伪造引用的法院文书在增加,生成端的幻觉率也没有随模型代际持续下降。
提出 LegalHalluLens,分类审计法律抽取幻觉并校准多智能体辩论
Published Jun 16
Evaluated models gemini-3-flash , gpt-5.2 , qwen3-32b and others5 Abstract 作者称类型画像与 RDI 能区分聚合率相近的系统,辩论主要减少虚构检出。LegalHalluLens 是一套法律条款抽取的审计框架,外加一个按审计结果校准的辩论缓解。 。
比较多智能体同伴共识下有害修订与有益修订的强弱
Published Jun 1
Evaluated models Qwen2.5-7B-Instruct , Mistral-7B-Instruct-v0.3 , Gemma-2-9B-Instruct and others4 Abstract 全错比全对更能改写答案。这篇工作在四个开源指令模型上测量从众修订的方向:错改对是有益修订,对改错是有害修订。模型先独立答选择题,再看到六个模拟同伴后重答。同伴可以全体一致、意见分裂,也可以带权威角色标签。
Proposing a lineage-graph governance layer to suppress error cascades in multi-agent collaboration
Published Mar 4 Abstract A single seed can solidify into a false consensus along a fixed collaboration graph.The authors turn "small errors becoming collective false consensus" in LLM-MAS into a measurable propagation on a graph, and use a plug-in that only changes messages, not topology, to reduce the final infection.
You have reached the end