Some text is shown in its original language while the English translation is being prepared.
Oct 12 · Monday
All papers Found 29 papers Another 336 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Organized first” shows papers with tags or public deep readings first. Each group is ordered by original publication date, newest first, with undated papers last. “Latest publication” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and deep readings are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Proposing DRYLAB-Bench to evaluate agentic LLMs' high-risk mutation design capability
Published Oct 9
Evaluated models Claude Opus 5 、 Claude Opus 4.8 、 Claude Fable 5 and others15 提出 RSIGym 环境，评测研究智能体的递归自改进
Published Oct 8
Evaluated models Claude Opus 5 、 Claude Opus 5.5 、 GPT-6 Astra and others9 适配多种已发表说服评测并比较模型排名
Published Oct 7
Evaluated models Claude-Fable-5.1 、 GPT-5.6-Sol 、 Kimi-K2.6 and others15 Abstract 说服分数混合能力与意愿，换任务后同一模型的排名可以差很多。这项研究比较的是自动化说服评测是否一致，而不是哪一种分数更正确。
比较连续后训练阶段如何改变语言模型的说服力
Published Oct 7
Evaluated models mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated 、 GPT-4 Abstract 作者称说服性 SFT 提高失调模型的态度变化，IPO 无额外收益，GPT-4 不异于中性文本。作者用同一人类协议，把 LLM 说服力拆成阴谋数据上的失调 SFT、说服数据上的 SFT，以及其后的 IPO。
提出 TasteVal 基准，衡量模型设计实验并解释结果的研究品味
Published Oct 6
Evaluated models Opus 5.5 、 Fable 5.1 、 GPT-6 Astra and others20 评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击
Published Oct 6
Evaluated models Opus 5 、 GPT-5.6 Sol 、 GPT-6 Sol and others10 Abstract 攻防孰强随环境、系统和弱点改变。作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。
在 GOAD 上评测 NeuroSploit 编排对 AD 自主渗透的提升
Published Oct 3
Evaluated models Claude Opus 4.6 、 Claude Opus 4.7 、 Claude Opus 4.8 and others9 评测 Agent 选择并早期操作高风险生物工具的能力
Published Oct 3
Evaluated models Claude Opus 4.7 、 Gemini 3.1 Pro Preview 、 GPT-5.5 and others7 Abstract 七模型能选工具并部分操作 EVEscape 与 ESM3。这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。
提出 KaliBench，评测模型把安全意图译成 Kali 命令的能力
Published Oct 2
Evaluated models Llama3.1-Instruct 8B 、 Qwen3 8B 、 Qwen3 8B thinking and others15 用 CyberPersistBench 评测入侵后安装与持久化能力
Published Sep 29
Evaluated models GPT-5.6-sol 、 Claude Sonnet 5 、 DeepSeek-V4-pro and others5 Abstract CyberPersistBench 将入侵后持久化拆成可核验阶段，并比较原生防御与多主机条件。CyberPersistBench 是评测入侵后安装与持久化的基准，关注初始访问消失后是否仍能维持原生立足点。 。
评估自动化 AI 研发触发智能爆炸的可能并提出政策应对
Published Sep 29 Abstract 软件驱动智能爆炸可能把数年进展压进数月，作者要求三项政策先做好。Chan 等论证：自动化 AI 研发可能经软件反馈环形成智能爆炸，把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期，而是 AI 扩大有效研发劳动力、再产出更强系统，以及社会能否在能力跃迁前看见、约束并适应这一过程。
发布 Systemic Risk Index 流水线与看板，评测四类系统风险
Published Sep 24
Evaluated models Claude Sonnet 5 、 Claude Haiku 4.5 、 GPT-5.6 Luna Pro and others15 提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线
Published Sep 22
Evaluated models gemini 3 flash 、 gpt-5.6-sol 、 fable 5 Abstract 提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。
提出 MobileCybench，用可执行探针评测 Agent 的漏洞发现能力
Published Sep 21
Evaluated models OpenCode/GPT-5.5 、 OpenCode/GPT-5.6-Sol 、 OpenCode/GLM-5.2 and others5 提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试
Published Sep 16 Abstract 确定性利用图加免费层级联在十次自建运行上测得付费成本为零。PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架，用确定性利用图把 7B 本地模型挡在利用关键路径之外，并把每次交战的美元成本当作实测指标。 。
提出 VLoc Bench，评测智能体在完整仓库中定位漏洞文件并抑制修复后误报
Published Sep 15
Evaluated models GPT-5.5 (xhigh) 、 GPT-5.5 (default) 、 Gemini 3 Pro and others15 Abstract 论文提出仓库级漏洞定位基准 VLoc Bench，指出当前模型定位表现较低且易在已修复代码上产生误报。
Published Sep 9
Evaluated models GPT-5.4 、 Claude Sonnet 4.6 、 GPT-4.1 and others6 提出基准 PATCHBENCH，评测编程 Agent 的漏洞修补是否真正修复根因
Published Sep 4
Evaluated models Codex + GPT-5.6 Sol 、 OpenHands + GPT-5.6 Sol 、 Claude Code + Claude Opus 4.8 and others11 Abstract 论文揭示漏洞修复评测的记忆与表面防护问题，提出离栈变异基准与双重验证，测得智能体实际解决率仅约五成。
提出 FUSE 框架，评测大语言模型的化生危险能力
Published Sep 2
Evaluated models Claude-3-Haiku 、 Claude-Opus-4 、 Claude-Opus-4.5 and others12 提出 SRE-Bench 评测智能体的真实规模二进制逆向能力
Published Aug 12
Evaluated models GPT-6-Astra 、 GPT-5.6-Sol 、 GPT-5.6-Cyber and others11 Abstract SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。作者构建并评测 SRE-Bench ，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。