Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 15 papers Another 254 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出 PackHallu，经规则文件提示注入诱导编码 Agent 换用攻击者指定包
Published Oct 7
Evaluated models Qwen2.5-Coder-7B , Qwen3-Coder-30B , Devstral-Small-2-24B and others19 Abstract PackHallu 诱导规则文件换包。PackHallu 研究一种针对编程智能体规则文件的提示注入：让智能体在本应使用合法依赖时，改导入攻击者指定并控制的包。
在 CWEval 上跟踪代码生成的功能-安全差距
Published Oct 6
Evaluated models Gemini 1.5 Pro , Gemini 2.5 Pro , Gemini 3.1 Pro and others20 Abstract 绝对安全性上升且差距仍在，开放权重并不分开各家族的轨迹。
评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击
Published Oct 6
Evaluated models Opus 5 , GPT-5.6 Sol , GPT-6 Sol and others10 Abstract 攻防孰强随环境、系统和弱点改变。作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。
提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
Published Oct 5
Evaluated models GPT-5.5 , Claude Opus 4.8 , Gemini 3.1 Pro and others6 Abstract SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。 。
提出 EviLLM，经账户指令或插件向代码生成流程注入漏洞
Published Oct 3
Evaluated models GPT-4o , Llama 3.2 (3B) 提出 MobileCybench，用可执行探针评测 Agent 的漏洞发现能力
Published Sep 21
Evaluated models OpenCode/GPT-5.5 , OpenCode/GPT-5.6-Sol , OpenCode/GLM-5.2 and others5 提出基准投毒攻击，使自修改编码 Agent 跨代写出含漏洞代码
Published Sep 16
Evaluated models Claude Sonnet 4.5 , Qwen3.5-397B , gpt-oss-120b and others5 Abstract 论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。
提出 SRE-Bench 评测智能体的真实规模二进制逆向能力
Published Aug 12
Evaluated models GPT-6-Astra , GPT-5.6-Sol , GPT-5.6-Cyber and others11 Abstract SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。作者构建并评测 SRE-Bench ，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。
用演化算法构造 mind virus 并测量其在多智能体中的传播
Published Aug 11
Evaluated models Claude Haiku 4.5 , Claude Sonnet 4.6 , Gemini 3 Flash and others7 用 CryptanalysisBench 评测大模型的端到端密码分析能力
Published Jul 21
Evaluated models Claude Opus 4.8 , Claude Sonnet 5 , Claude Mythos 5 and others10 Abstract 提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。
构建真实网络靶场基准，评测 AI 的端到端自主攻击能力
Published Jun 12
Evaluated models GPT-5.5 , Claude-Opus-4.7 , GLM-5.1 and others7 Abstract 构建开放多靶场评测基础设施 AGENTCYBERRANGE，测定前沿 AI 网络攻击能力并揭示其端到端规划短板。
复评前沿模型代码生成中的包名幻觉与抢注攻击面
Published May 17
Evaluated models Claude Sonnet 4.6 , Claude Haiku 4.5 , GPT-5.4-mini and others5 Abstract 评估显示前沿模型包幻觉率收窄但威胁仍在，作者识别出跨模型通用攻击面并呼吁联合防御。
提出 SecureForge，在推理时优化系统提示以减少编码智能体的代码弱点
Published May 9
Evaluated models Qwen 2.5 Coder 7B , Qwen 2.5 Coder 14B , Qwen3 30B-A3B and others10 Abstract SecureForge 审计良性 CWE 失败并优化系统提示词。SecureForge 是一条只用 API 和静态分析、在推理时加固编码模型的流水线。
评测代码 Agent 过滤静态告警误报的能力
Published Jan 30
Evaluated models Claude Sonnet 4 , DeepSeek Chat , GPT-5 Abstract 智能体可去掉大量 SAST 噪声，但收益随骨干和 CWE 变化，并会把部分真漏洞标成误报。这是对三种 LLM 智能体框架过滤 SAST 误报的比较研究。
Attacks arXiv 2509.05372 · Sep 4, 2025 用对抗缺陷报告诱导自动程序修复系统生成不安全补丁
Published Sep 4, 2025
Evaluated models claude-sonnet-4-20250514 , o4-mini , GPT-4.1-mini and others8 You have reached the end