Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 15 papers Another 232 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Proposing DRYLAB-Bench to evaluate agentic LLMs' high-risk mutation design capability
Published Oct 9
Evaluated models Claude Opus 5 , Claude Opus 4.8 , Claude Fable 5 and others15 提出 TasteVal 基准，衡量模型设计实验并解释结果的研究品味
Published Oct 6
Evaluated models Opus 5.5 , Fable 5.1 , GPT-6 Astra and others20 评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击
Published Oct 6
Evaluated models Opus 5 , GPT-5.6 Sol , GPT-6 Sol and others10 Abstract 攻防孰强随环境、系统和弱点改变。作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。
在 GOAD 上评测 NeuroSploit 编排对 AD 自主渗透的提升
Published Oct 3
Evaluated models Claude Opus 4.6 , Claude Opus 4.7 , Claude Opus 4.8 and others9 评测 Agent 选择并早期操作高风险生物工具的能力
Published Oct 3
Evaluated models Claude Opus 4.7 , Gemini 3.1 Pro Preview , GPT-5.5 and others7 Abstract 七模型能选工具并部分操作 EVEscape 与 ESM3。这项评估测量七个前沿 LLM 智能体与生物工具交互的最早两步：为设计任务选工具，以及在仓库里完成玩具级操作。作者关心的是，有生命科学背景但不会专门操作高风险工具的行为者，能否借此降低门槛。范围限于预测性、生成性工具。
提出 KaliBench，评测模型把安全意图译成 Kali 命令的能力
Published Oct 2
Evaluated models Llama3.1-Instruct 8B , Qwen3 8B , Qwen3 8B thinking and others15 用 CyberPersistBench 评测入侵后安装与持久化能力
Published Sep 29
Evaluated models GPT-5.6-sol , Claude Sonnet 5 , DeepSeek-V4-pro and others5 Abstract CyberPersistBench 将入侵后持久化拆成可核验阶段，并比较原生防御与多主机条件。CyberPersistBench 是评测入侵后安装与持久化的基准，关注初始访问消失后是否仍能维持原生立足点。 。
发布 Systemic Risk Index 流水线与看板，评测四类系统风险
Published Sep 24
Evaluated models Claude Sonnet 5 , Claude Haiku 4.5 , GPT-5.6 Luna Pro and others15 提出 MobileCybench，用可执行探针评测 Agent 的漏洞发现能力
Published Sep 21
Evaluated models OpenCode/GPT-5.5 , OpenCode/GPT-5.6-Sol , OpenCode/GLM-5.2 and others5 提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试
Published Sep 16 Abstract 确定性利用图加免费层级联在十次自建运行上测得付费成本为零。PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架，用确定性利用图把 7B 本地模型挡在利用关键路径之外，并把每次交战的美元成本当作实测指标。 。
Published Sep 9
Evaluated models GPT-5.4 , Claude Sonnet 4.6 , GPT-4.1 and others6 提出 SRE-Bench 评测智能体的真实规模二进制逆向能力
Published Aug 12
Evaluated models GPT-6-Astra , GPT-5.6-Sol , GPT-5.6-Cyber and others11 Abstract SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。作者构建并评测 SRE-Bench ，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。
用 CryptanalysisBench 评测大模型的端到端密码分析能力
Published Jul 21
Evaluated models Claude Opus 4.8 , Claude Sonnet 5 , Claude Mythos 5 and others10 Abstract 提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。
构建真实网络靶场基准，评测 AI 的端到端自主攻击能力
Published Jun 12
Evaluated models GPT-5.5 , Claude-Opus-4.7 , GLM-5.1 and others7 Abstract 构建开放多靶场评测基础设施 AGENTCYBERRANGE，测定前沿 AI 网络攻击能力并揭示其端到端规划短板。
用 VirtualCrime 沙盒评测模型被赋予犯罪角色后的多步执行与过度伤害
Published Jan 20
Evaluated models GPT-4.1 , GPT-5 , Claude-Haiku-4.5 and others8 Abstract 作者称八个 LLM 会在沙盒中编排多步犯罪，手段偏欺骗与协作，并出现过度伤害。VirtualCrime 是一个多 LLM 智能体的文本沙盒，用来测量模型在被指定犯罪目标之后的多步行为，而不是测量它会不会拒绝恶意查询，也不是测量它会不会自发产生恶意意图。作者要回答的是：初始防护被角色指派绕过之后，模型在会调查、报警并逮捕队伍的环境里，能规划并执行什么，以及执行时是否超出任务所需去使用武力或破坏。除这一指派外，不用外部工具或任务特定脚手架。
You have reached the end