Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
All papers Found 20 papers Another 201 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
重建 Agent 技能复制网络并建模源选择以指导安全审计
Published Oct 8 Abstract 论文重构了 GitHub 智能体技能复制网络，发现复制集中于少数仓库且很少随源更新，并提出了代码库审计推荐模型。
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
Published Oct 7
Evaluated models CLIP ViT-B/32 , CLIP ViT-L/14 , Qwen2-VL-7B Abstract 论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
提出 AgentSpy，在系统调用层观测 Agent 行为并检测技能注入
Published Oct 5
Evaluated models gpt-5.6-terra , deepseek-v4-flash , glm-5.3-flash and others4 Abstract 提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy 。
提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
Published Oct 5
Evaluated models GPT-5.5 , Claude Opus 4.8 , Gemini 3.1 Pro and others6 Abstract SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。 。
测量事实核查评测混入的时序证据与参数泄漏
Published Oct 4
Evaluated models Qwen3-14B , phi-4 Abstract 两条后见通道会抬高事实核查分数。作者量的是 LLM 事实核查分数里，有多少来自 claim 当时还不可知的信息。通道有两条：预训练记住的结局，以及检索到的、写于 claim 之后的文档。
分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预
Published Oct 4
Evaluated models LLaMA 3.1 8B Instruct , Mistral-7B-Instruct-v0.3 , Qwen2.5-14B-Instruct Abstract 论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。
提出 IEC 与 IntAct，测量并修复 Agent 工具调用的路径篡改
Published Oct 3
Evaluated models qwen3-coder-plus , Qwen2.5-Coder-32B , Qwen2.5-72B and others4 Abstract 论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
论证人形机器人学习四层代理可在目标缺失时报成功
Published Oct 2
Evaluated models Gaussian MLP（三隐层各 128 ELU，独立 critic，PPO） Abstract 四层都可能在目标缺失时报告成功。作者讨论腿式机器人 RL 流水线中，奖励、课程门控、评测统计量和参考运动如何在物理目标缺失时仍报告成功。传统观点只把奖励当作会被优化、因而会偏离的代理。
量化异构模型在分歧分类上的同伴影响与回弹
Published Oct 2
Evaluated models gemma-3-4b , gemma-3-27b , llama-3.1-8b and others7 Abstract 一次分歧交换就能大幅改判，且组合行为不能从个体属性外推。这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响，而不是评多智能体系统的整体基准分。
揭示安全路由评测在分布偏移下的虚假下限与选择偏差
Published Oct 1
Evaluated models claude-3-5-sonnet , claude-3-opus , claude-sonnet-4-6 and others9 Abstract 论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。
刻画 HPC 上编码智能体的使用差异并提出设施协同设计议程
Published Sep 30 Abstract FASRC 测量说明编码智能体改变 HPC 使用方式，作者据此提出四层协同设计议程。这是一篇对生产 HPC 上编码智能体的测量与系统议程论文，不是攻击实现或防御评测。 。
提出 VStress 回放审计，并按条件边际信息分配重复验证预算
Published Sep 29 Abstract VStress 冻结后再评分，VStress-CA 按条件信息分配调用，相关共享时增益消失。VStress 是重复二元验证器的回放审计，VStress-CA 把未查询通道的条件边际信息变成固定预算下的停止与分配。
提出 REGEXROUTE，用 SAE 引导的正则特征做 LLM 路由
Published Sep 28 分析零训练 LLM+OVOD 流水线中 CAAP 与 SNAP 分离的来源
Published Sep 26
Evaluated models Gemma-3 4B , YOLO-World X , Qwen2.5-VL 7B and others4 分析稀疏重叠下 LLM judge 与人类一致性的验证误差并规划重叠分配
Published Sep 26
Evaluated models Gemini Flash , Gemini Pro , GPT-4o-mini and others10 Abstract 稀疏重叠主导 judge 验证的错误决策。这篇工作研究标注重叠很稀时，怎样验证 LLM judge 是否足以替代人类，并规划重叠该留多少、怎么分配。 。部署前的标准做法是在校准集上比较 judge 与人类的一致性。
归纳开放式医学长答案检索核验的失败分类
Published Sep 25
Evaluated models GPT-5.4 , Mistral Small 3 (24B-Instruct-2501) , Mistral Small 4 (119B-2603) and others8 Abstract 作者把开放式低召回归为证据是否在库、能否被定位，以及与声明是否对齐。这篇工作诊断开放式医学事实核验的 retrieve-then-verify 管线断在哪里，而不是提出新的核验器。
实证调查 gh-aw 工作流规范的结构、维护演化与指令防护
Published Sep 23
Evaluated models Gemini 3.1 Pro , GLM-5.2 , gpt-oss Abstract gh-aw 指令又长又常改，任务和约束很常见，显式注入防护很少，LLM 标注与人工标签大体一致。这是一项对 GitHub Agentic Workflows Markdown 的仓库挖掘，目标是描述开发者如何规定并维护会反复执行的智能体工作。
审计 Active Inference Agent 上 LLM 解释器的监督叙述失败
Published Sep 20
Evaluated models GPT-4o , Claude-3-Opus , Gemini Abstract 三组触发下解释流畅但错误，所提缓解都未被评估。作者审计的是挂在智能体上的运行时解释器，而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败，以及失败痕迹是什么样。
提出 Trace2ATT&CK，用溯源图把内核遥测映射到 ATT&CK
Published Sep 11
Evaluated models gpt-oss-20b , gpt-oss-120b , gemma-4-31b-it and others7 Abstract Trace2ATT&CK 把 eBPF 溯源命令图交给本地 LLM/RAG，在 Atomic Red Team 上映射 ATT&CK。Trace2ATT&CK 是一条从 Linux 内核遥测到 MITRE ATT&CK 排序候选的端到端流水线，面向已经划定的攻击窗口，而不是异常检测或 CTI 报告。
刻画单迹监控对跨执行超性质的监督缺口
Published Sep 7
Evaluated models Llama-3.1-8B , Mistral-24B , GPT-4o-mini and others9 Abstract 单迹监督的上界由 TV 决定。论文测量单迹安全监控相对 2-safety 超性质 能看见多少：跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义，一条轨迹装不下判定。
You have reached the end