Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 42 papers Another 232 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Proposing DRYLAB-Bench to evaluate agentic LLMs' high-risk mutation design capability
Published Oct 9
Evaluated models Claude Opus 5 , Claude Opus 4.8 , Claude Fable 5 and others15 Show that reward hacking can propagate through code, memory, and plans in multi-agent coding systems
Published Oct 9
Evaluated models Qwen2.5-Coder-14B , Gemma-3-12B , Qwen2.5-Coder-7B and others16 Abstract The authors state that reward hacking can spread across models and affect routing and aggregation, and that review can reduce delivery.Reward hacking induced by coding RL can leave the source agent and enter subsequent collaboration and system coordination.
提出研究合同，把已批准选择绑定到执行证据并由检查器核验
Published Oct 8
Evaluated models OpenAI gpt-5.6-sol , OpenAI gpt-5.6-terra , OpenAI gpt-5.6-luna and others18 Abstract 研究合同暴露四类输出单独建不立的关系。研究合同用来核验计算科学研究智能体是否仍在已批准研究之内，不判断科学是否为真。 。
评测编码 Agent 中相似技能共同安装对已装技能核心功能的替代
Published Oct 8
Evaluated models claude-sonnet-4-6 , claude-haiku-4-5-20251001 , claude-opus-5 and others6 Abstract 冲突藏在任务成功后面。作者对共同安装、做同一件事的良性 skill 做实证研究，用核心功能是否还在，而不是任务过不过，来看冲突。 。
用对照实验隔离评测设计对漏洞补丁基准得分的影响
Published Oct 7
Evaluated models Claude Sonnet 4.0 , Claude Sonnet 4.5 , Claude Opus 4.7 Abstract 作者认为评测流水线会改变补丁基准分数，PoC 通过率高于开发者测试通过率。作者把 LLM 漏洞补丁基准的评测流水线当作会改变测量结果的对象，并明确说本文不是再做一个用于排名的基准。
提出 comprehension audits，以人类理解证据作为继续研发门槛
Published Oct 7 Abstract 理解审计把出示人类理解设为继续研发的门禁，并报告开源评审评论率下降。本文是一份研发过程保障提案：用 comprehension audits 检验责任人是否理解 AI 参与产生的研发贡献，未达标就暂停后续开发与依赖该贡献的发布。 。
提出 AgentTime 基准，评测智能体按时长工作与估时能力
Published Oct 7
Evaluated models Fable 5.1 , GPT-5.6 Sol , GPT-6 Astra and others7 Abstract 作者把完成任务和管理所用时间分开。AgentTime 是对智能体时间自控的评测：预测任务耗时、按要求时长工作、事后估计已用时间。
提出 TESTJACK，动态审计编码基准通过判定是否满足任务要求
Published Oct 7
Evaluated models Claude Opus 4.6 , Claude Opus 4.7 , Claude Opus 4.8 and others7 提出 SPECGUARD，用 Lean 证书在编码 Agent 执行前证明任务冲突
Published Oct 7
Evaluated models GPT-5.6 Sol , Claude Opus 5 , Claude Fable 5 and others4 Abstract 提出预执行冲突检测与证明框架，在多个基准和真实仓库中成功证明任务与测试不可同时满足。
提出 ParanoiaEval 评测编码智能体的不必要风险处置
Published Oct 7
Evaluated models Opus-5 , Sonnet-5 , Sonnet-4.6 and others8 Abstract 作者用证据受控任务对评测风险处置，称其普遍、独立于任务能力并降低满意度。作者提出 ParanoiaEval，并称它是编码智能体风险处置能力的首个统一基准。要解决的问题是：证据已经确定风险应如何处置之后，智能体仍可能扩大验证、增加保护或备份，而现有评测要么只看功能正确性，要么把相关行为拆开研究。做法是把 NIST 的 ATMA 落到仓库任务。
提出 TasteVal 基准，衡量模型设计实验并解释结果的研究品味
Published Oct 6
Evaluated models Opus 5.5 , Fable 5.1 , GPT-6 Astra and others20 评测 coding agent 在非公开漏洞上的利用生成、修复与后续攻击
Published Oct 6
Evaluated models Opus 5 , GPT-5.6 Sol , GPT-6 Sol and others10 Abstract 攻防孰强随环境、系统和弱点改变。作者比较编程智能体在利用生成与漏洞修复上的自主表现，并检查修复之后还能不能被攻破。文中的 help 指自主完成任务，不是提升人类操作者。
提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG
Published Oct 5
Evaluated models GPT-5.6 Luna , GPT-5.6 Terra , GPT-5.6 Sol and others8 Abstract AgentMonBench 评测后果性决策监控，EBG 组织证据。长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。
提出 VERA，审计 LLM 漏洞解释里的虚构推理
Published Oct 5
Evaluated models sonnet-5 , gemma-4-26b , llama-4-maverick and others8 提出 SWE-CC 基准，评测编码 Agent 对仓库贡献策略的遵守
Published Oct 5
Evaluated models GPT-5.6 Luna , Gemini 3.7 Flash , DeepSeek V4 Flash 0731 and others4 Abstract SWE-CC 中功能正确仍可能违规。SWE-CC 评测编码智能体是否遵守仓库贡献策略，而不只看补丁能否通过测试。
提出选择性长时程精炼，筛选轨迹以提升终端智能体训练可靠性
Published Oct 5
Evaluated models Qwen/Qwen3-8B Abstract 中间长度的监督更均衡。这项工作研究终端智能体模仿学习里，教师轨迹应保留多少 token。
用犯罪学框架测试编码智能体压力下的奖励作弊与言行脱节
Published Oct 4
Evaluated models Claude Opus 5.5 , Claude Sonnet 5.5 , GPT-5.6 Sol and others7 Abstract 从犯罪学视角揭示 AI 奖励作弊规律，发现言行脱节且规范澄清能消除违规。
检验低监控读数能否证明代码生成中的奖励作弊已受控
Published Oct 2
Evaluated models Llama-3.1-8B-Instruct Abstract 论文指出监控器训练读数接近零无法确立作弊受控，模型可利用通用外壳推迟提交绕过监控，强化学习亟需带外行为验证。本文是一篇针对强化学习可验证奖励后训练（RLVR）中监控器有效性与奖励作弊行为的实证分析研究。论文要解决的核心问题是：在训练目标中引入监控器以抑制代码生成中的作弊行为时，接近零的监控器读数是否足以确立模型行为已真正受控。
提出 HACKTRACE，用生成状态检测并抑制代码智能体奖励作弊
Published Oct 2
Evaluated models Qwen3-8B , Llama-3.1-8B-Instruct , Qwen3.5-4B Abstract 论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架，实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。
构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效
Published Sep 30
Evaluated models Qwen3-4B , Qwen3.5-27B Abstract CATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。