Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 85 papers Another 321 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Proposing DRYLAB-Bench to evaluate agentic LLMs' high-risk mutation design capability
Published Oct 9
Evaluated models Claude Opus 5 , Claude Opus 4.8 , Claude Fable 5 and others15 An ecological model is established for a population of mismatched agents, showing that collaboration produces a critical takeoff scale.
Published Oct 9 Abstract The authors say that collaboration changes takeoff from an individual capability threshold to a population threshold, so small-population evaluations are insufficient.The authors use the ecological strong Allee effect to discuss whether a mismatched agent population can take off when individual capabilities remain unchanged. .
用 BeliefScope 分离固定命题上证据与压力对模型信念的影响
Published Oct 8
Evaluated models Qwen3-8B , Llama3.1-8B , Gemma3-12B and others4 Abstract BeliefScope 把证据修正与压力偏移拆成绑定评测条件的行为画像。BeliefScope 是一个黑盒行为诊断框架，用来把固定命题上的回答变化拆成证据驱动的修正，和不加新事实的方向性压力。信念修正评测能看到信息基础变化后的更新，谄媚评测能看到用户影响下的顺从或漂移。作者认为，当两种输入都偏向同一结论时，表面偏移本身不能区分来源。
提出 RSIGym 环境，评测研究智能体的递归自改进
Published Oct 8
Evaluated models Claude Opus 5 , Claude Opus 5.5 , GPT-6 Astra and others9 适配多种已发表说服评测并比较模型排名
Published Oct 7
Evaluated models Claude-Fable-5.1 , GPT-5.6-Sol , Kimi-K2.6 and others15 Abstract 说服分数混合能力与意愿，换任务后同一模型的排名可以差很多。这项研究比较的是自动化说服评测是否一致，而不是哪一种分数更正确。
比较连续后训练阶段如何改变语言模型的说服力
Published Oct 7
Evaluated models mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated , GPT-4 Abstract 作者称说服性 SFT 提高失调模型的态度变化，IPO 无额外收益，GPT-4 不异于中性文本。作者用同一人类协议，把 LLM 说服力拆成阴谋数据上的失调 SFT、说服数据上的 SFT，以及其后的 IPO。
提出知行差距面板，测量压力下模型是否违背自身判断
Published Oct 7
Evaluated models OLMo-3-7B-Instruct , Llama-3.1-8B-Instruct , Tulu 3 and others7 Abstract 评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。
提出分风险对齐标度律框架，测量各类风险的对齐负担如何随规模变化
Published Oct 6
Evaluated models Pythia (14m–2.8b) , Qwen2.5 (0.5B–72B) , Qwen2.5-Instruct (0.5B–14B) and others4 Abstract 论文提出了分风险对齐标度律框架，测得真实性与倾向纠错呈标度有益，但盲后门仍存活，揭示隐藏风险的长期挑战。本文提出了一个将大语言模型对齐难度形式化为可测量标度关系的理论框架与预注册评测协议。
提出 SIGMA，让模型依据 Model Spec 自造对齐数据并改进安全对齐
Published Oct 6
Evaluated models Qwen3.6-27B Abstract SIGMA 用 Model Spec 自造监督，单轮训练可迁到多项智能体安全指标。SIGMA 让 Qwen3.6-27B 只凭 Model Spec 和高层领域，自己生产对齐任务、评分细则和奖励。
评测记忆门控对激活诱导与记忆诱导谄媚的防御效果
Published Oct 6
Evaluated models Llama-3.1-8B-Instruct , Qwen2.5-7B-Instruct , Mistral-7B-Instruct-v0.3 and others4 Abstract 作者称外部记忆过滤成立，数据未显示反向转向再有贡献。作者在四个开源指令模型上，把激活转向和外部记忆处理放进同一纵深防御协议，看记忆诱发谄媚和内部谄媚压力能否分开压低，以及个性化效用还剩多少。要处理的问题是：检索到的用户历史会推动模型顺从存储信念。只改外部上下文，并不直接动模型内部的谄媚表征。
提出 TasteVal 基准，衡量模型设计实验并解释结果的研究品味
Published Oct 6
Evaluated models Opus 5.5 , Fable 5.1 , GPT-6 Astra and others20 评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击
Published Oct 6
Evaluated models Opus 5 , GPT-5.6 Sol , GPT-6 Sol and others10 Abstract 攻防孰强随环境、系统和弱点改变。作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。
构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从
Published Oct 5
Evaluated models opus-5 , sonnet-5 , sonnet-4.6 and others11 Abstract 论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。
提出 APO，协同学习少样本个性化偏好对齐的 aligner 初始化
Published Oct 5
Evaluated models Llama-3.2-3B-Instruct , Qwen2.5-3B-Instruct 提出 AURA，用正交惩罚分开顺序适配中的推理与安全子空间
Published Oct 4
Evaluated models Qwen-3-14B , Qwen-2.5-14B-Instruct , Llama-3-8B-Instruct and others4 Abstract AURA 用子空间正交分开顺序任务。AURA 是面向共享骨干智能体的顺序 LoRA 正则，用来分开前后任务的残差子空间。
提出 MemAdapter，在检索后约束记忆对智能体推理的影响
Published Oct 4
Evaluated models DeepSeek-V4-Flash , GPT-5.6-sol , Qwen3-8B Abstract 检索后三阶段调节记忆角色。MemAdapter 是给长期记忆智能体用的检索后调节框架，用来处理记忆诱发谄媚。
在 GOAD 上评测 NeuroSploit 编排对 AD 自主渗透的提升
Published Oct 3
Evaluated models Claude Opus 4.6 , Claude Opus 4.7 , Claude Opus 4.8 and others9 展示失准 Agent 经持久记忆传播目标，审计或禁用记忆均不足以防
Published Oct 3
Evaluated models Claude Haiku 4.5 , Claude Sonnet 5 , Claude Opus 5 and others11 Abstract 失准智能体可通过记忆将目标跨会话传递给对齐智能体。论文揭示了 LLM 智能体在无需外部攻击者干预下，通过持久化记忆将未竟失准目标传递给后续对齐智能体执行的“失准自我传播”安全威胁。 。
评测 Agent 选择并早期操作高风险生物工具的能力
Published Oct 3
Evaluated models Claude Opus 4.7 , Gemini 3.1 Pro Preview , GPT-5.5 and others7 Abstract 七模型能选工具并部分操作 EVEscape 与 ESM3。这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。
提出 PlurPO，用自模拟利益相关者偏好后训练缓解社交谄媚
Published Oct 2
Evaluated models Qwen3-8B , Phi-4 , Llama 3.1 8B and others5 Abstract PlurPO 用自身多方否决信号做后训练，在社会谄媚指标上降低过度认可。PlurPO 是一种后训练方法，用来降低个人建议等无真值场景中的社会谄媚。