Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 13 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务
Published Oct 8
Evaluated models ObligationGuard , Claude-Opus-4.8 , GPT-5.6-Sol and others17 Abstract 义务是护栏缺口。作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。
提出 AMU 按推导图门控企业 Agent 共享记忆的列级访问
Published Oct 6 Abstract 在完整血缘下，AMU 按列权限放行缓存，并标出同名 KPI 冲突。AMU 用列级推导门控共享记忆，拦截经缓存流出的无权敏感列，并标出同名 KPI 的定义冲突。
发布 OVERACT 衡量工具智能体主动越权取数并评测 SELFAUDIT
Published Oct 1
Evaluated models Qwen3.6-Flash , Qwen3.6-Plus , Qwen3.7-Max and others7 Abstract 七模型普遍超额调用。七个来自四个家族的工具调用模型，在保守的字面授权准则下会检索超出请求的私人数据。作者把该行为称为 proactive over-authorization，用 OVERACT 做无 LLM 评审的测量，并用 SELFAUDIT 做不依赖 oracle 的执行前过滤。
提出 FlowReview，用授权配对与确定性提交门控控制多智能体组合信息流
Published Sep 30
Evaluated models Sonnet 4.5 , Haiku 4.5 , Qwen3-32B and others5 Abstract 配对标准要求拒绝禁止使用并完成授权使用，FlowReview 把三项审查接到执行。这篇工作把多智能体安全写成一件必须同时成立的事：拦住组合信息所启用的禁止使用，并完成同一场景里任务所需的授权使用。
评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取
Published Sep 29 Abstract 此 harness 表达不了编译器可读而智能体不可读，五条路径两边都不覆盖。作者在物理流求解器上检查一套编码智能体配置：编译器必须读本组材料与反应模型，这些字节又不得进入模型上下文或离开本机的记录。
提出身份绑定且委托只衰减的能力令牌，用上下文外钱包约束智能体
Published Sep 25 Abstract 用只衰减的身份绑定令牌和上下文外钱包，约束代表人类行动的分布式智能体。代表人类行动的分布式智能体，需要一种不把密钥放进语言模型上下文的授权方式。
提出 FLOWSEAL，用工具级信息流控制阻断智能体隐私泄露
Published Sep 12
Evaluated models DeepSeek-V3.2 , GPT-4.1-mini , Gemini-Flash-2.5 Abstract 作者分析大模型智能体隐私检查与攻击面重合问题，提出外部拦截防御 FLOWSEAL 并验证有效性。
提出 Skill-as-API，隔离多智能体协作中的 skill 正文与系统提示词
Published Sep 1 Abstract 协议把 skill 正文留在所有者侧，四层限制发现内容、权限期限和注入拼接。Skill-as-API 是面向智能体软件工程的协调协议，用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁：经通道或命名空间抽取专有方法，用注入让被调用模型输出系统提示词，以及协作结束后权限继续保留。
提出 WebMCP-Phalanx，用能力凭证与双智能体隔离浏览器工具调用
Published Aug 25 Abstract Phalanx 用浏览器凭证绑定工具所有权，Q/P 分离拦住描述注入，工具名与返回值仍有残留。WebMCP-Phalanx 针对浏览器里的 WebMCP 智能体：在 SOP 下补工具所有权，并把语义检查从有工具权的执行中分开。
提出 AgentFlow 流策略语言与运行时框架，约束智能体跨步数据流
Published Aug 24 提出 LeakGauge，用行为后缀的 prefill 对数概率检测上下文泄露
Published Aug 18
Evaluated models Gemma-4-E4B-it , Gemma-4-31B-it , Qwen2.5-14B-Instruct and others11 提出企业级检测系统 ADR，识别编程 Agent 的提示注入与恶意 MCP
Published May 17 Abstract 提出了端点因果遥测、两级在线分流与离线红队闭环的 ADR 系统，并在生产环境中验证了有效性。
提出 AuthBench 评测编码 Agent 最小权限，并验证充足性-紧缩性分解
Published May 14
Evaluated models GPT-5 , GPT-5.3-Codex , GPT-5.4 and others9 Abstract 论文提出权限边界推断基准与两阶段分解方法，有效降低安全暴露。本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。
You have reached the end