Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 52 papers Another 233 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
An ecological model is established for a population of mismatched agents, showing that collaboration produces a critical takeoff scale.
Published Oct 9 Abstract The authors say that collaboration changes takeoff from an individual capability threshold to a population threshold, so small-population evaluations are insufficient.The authors use the ecological strong Allee effect to discuss whether a mismatched agent population can take off when individual capabilities remain unchanged. .
Diagnose whether compliance system rulings change with perturbations to regulatory rules
Published Oct 9
Evaluated models Llama-3.3-70B-Instruct , Llama-3.1-8B-Instruct , Qwen2.5-7B-Instruct and others5 Abstract Across five models, many correct verdicts are largely unchanged by deleting or replacing negation rules.Use behavioral counterfactuals and activation probes to audit whether compliance rulings rely on the given rules. The authors aim to separate two kinds of seemingly identical correct rulings: those that use the given rules, and those obtained from case surface features or training patterns.
重建 Agent 技能复制网络并建模源选择以指导安全审计
Published Oct 8 Abstract 论文重构了 GitHub 智能体技能复制网络，发现复制集中于少数仓库且很少随源更新，并提出了代码库审计推荐模型。
证明限时且部分可观测环境下完美智能体不能保证安全
Published Oct 7 Abstract 作者称须连同环境与安全状态考虑安全，信号混合可要求无限前瞻。作者讨论的是：必须在有限额外观测后行动的控制器，在只能部分观测的环境里，能否有与模型无关的安全保证。要处理的情况是，延误本身有代价，而观测又可能分不清必须采取互斥安全动作的两个潜状态。分拣中心的透明药瓶是作者给出的例子。
用 Stackelberg 博弈分析发现与修复投入的防御充分性
Published Oct 7 Abstract 覆盖定理给出充分条件。作者用攻击集合上的发现—修补过程，加上防守方领先的 Stackelberg 博弈，讨论反馈式防御何时够用，以及为威慑自适应攻击者该买多少能力。
提出 AgentSpy，在系统调用层观测 Agent 行为并检测技能注入
Published Oct 5
Evaluated models gpt-5.6-terra , deepseek-v4-flash , glm-5.3-flash and others4 Abstract 提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy 。
提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
Published Oct 5
Evaluated models GPT-5.5 , Claude Opus 4.8 , Gemini 3.1 Pro and others6 Abstract SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。 。
揭示工具型智能体判定无用后仍不停止检索，并检验强制整合纠正效果
Published Oct 5
Evaluated models Qwen2.5-7B , Llama-3.1-8B , Qwen3-8B and others7 Abstract 论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。
固定有害指令，单轴归因图像到文本越狱的图像属性
Published Oct 4
Evaluated models GPT-4o , Claude Sonnet 4.5 , Qwen3-VL-8B-Instruct and others6 Abstract 固定文本的图像越狱拆解，只在 Qwen 上给出一条有界相关性归因。
遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联
Published Oct 4
Evaluated models Qwen2-Audio-7B-Instruct , LLaMA-Omni Abstract AdvWave-P 的八频带排序与能量相关。这是对加性音频越狱 AdvWave-P 的频率与解码器深度审计，受害模型主要是 Qwen2-Audio-7B-Instruct，不提出新攻击。
提出 Oscar，分析已知 OSS 漏洞在 Agent 系统中的安全效应与表现边界
Published Oct 4 Abstract Oscar 把已知 OSS 漏洞分析从“是否存在”推进到一次执行中的已实现效应与最远表现边界。Oscar 是面向已知 OSS 漏洞的运行时分析框架，用来判断一次智能体执行里该漏洞是否造成安全相关效应，以及效应最远表现到哪一层。 。
测量事实核查评测混入的时序证据与参数泄漏
Published Oct 4
Evaluated models Qwen3-14B , phi-4 Abstract 两条后见通道会抬高事实核查分数。作者量的是 LLM 事实核查分数里，有多少来自 claim 当时还不可知的信息。通道有两条：预训练记住的结局，以及检索到的、写于 claim 之后的文档。
提出 IEC 与 IntAct，测量并修复 Agent 工具调用的路径篡改
Published Oct 3
Evaluated models qwen3-coder-plus , Qwen2.5-Coder-32B , Qwen2.5-72B and others4 Abstract 论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
量化异构模型在分歧分类上的同伴影响与回弹
Published Oct 2
Evaluated models gemma-3-4b , gemma-3-27b , llama-3.1-8b and others7 Abstract 一次分歧交换就能大幅改判，且组合行为不能从个体属性外推。这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响，而不是评多智能体系统的整体基准分。
分析文体改写是否改变多模态声明核验的判决与置信度
Published Oct 2
Evaluated models gemma-4-26B-A4B-it , gemma-4-31B-it , GLM-4.6V-Flash and others11 揭示类型化决策模型按选项标签而非定义规则作答
Published Oct 2
Evaluated models laya-typed-decisions , laya , laya-multilingual and others9 Abstract 揭示类型化决策模型被标签误导的机理，证实源于提示词渲染并给出实操建议。
提出 HXAI 分层隐私解释框架，本地保留细解释并只发布加噪摘要
Published Oct 2
Evaluated models gradient-boosted tree regression models Abstract HXAI 把无噪声局部 SHAP 留在家庭内，只聚合差分隐私摘要。HXAI 是面向分布式能源系统的分层隐私保护解释框架，服务规划、监测与诊断，而不是实时控制。
提出奖励驱动多智能体系统 MEA，生成可扰动验证的忠实解释
Published Oct 2
Evaluated models Qwen3.6-35B-A3B , Qwen3.5-4B , Qwen3-VL-30B-A3B-Instruct and others12 Abstract MEA 用忠实性奖励训练双智能体，把工具输出收成可扰动核对的解释。MEA 是一个奖励驱动的双智能体，用来给黑盒分类器的单次预测写自然语言解释，并检查解释能否被扰动后的模型行为支持。
提出 AgentSecGraph，静态分析 LLM Agent 敏感操作的安全依赖与上下文
Published Oct 2 Abstract AgentSecGraph 用 Security-ADG 分开操作检测与安全解释，并量化上下文保留。AgentSecGraph 对冻结的 LLM 智能体源码做安全感知静态分析：敏感操作只作候选锚，Security-ADG 再记下它与智能体输入、依赖、信任边界、守卫和外部效果的关系。
揭示安全路由评测在分布偏移下的虚假下限与选择偏差
Published Oct 1
Evaluated models claude-3-5-sonnet , claude-3-opus , claude-sonnet-4-6 and others9 Abstract 论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。