Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 16 papers提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务
- Published
- Evaluated models
- ObligationGuard, Claude-Opus-4.8, GPT-5.6-Sol and others17
Abstract义务是护栏缺口。
作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。
构建 Workerville 基准，测量组织条件如何改变 Agent 的安全行为
- Published
- Evaluated models
- GPT-5.2, Claude-Sonnet-4.6, Gemini-3.1-Pro and others6
Abstract作者用 ACB 与 Workerville 测量组织条件对智能体安全的影响，并称结果支持可量化的组织行为框架。
Workerville 用组织行为测量智能体安全如何随监督、同伴和记忆条件变化。。要处理的缺口是：持续运行的 LLM 智能体同时接收用户指令、同伴消息和长期记忆，但既有安全评测多把这些通道拆开，没有统一的定量测量。
提出检索可采纳性核验框架，评测记忆智能体的记录资格与披露
- Published
- Evaluated models
- DeepSeek V4 Pro, Gemini 3.6 Flash, GPT-5.6 Luna and others7
Abstract作者用三值可采纳性和匹配召回界审计长时记忆检索，并分开报告支持、资格与披露。
这是一套长时记忆检索的可采纳性核验协议，用来分开检查候选支持、资格、提示词暴露和答案披露，而不是提出新的检索算法。。
提出 AMU 按推导图门控企业 Agent 共享记忆的列级访问
- Published
Abstract在完整血缘下，AMU 按列权限放行缓存，并标出同名 KPI 冲突。
AMU 用列级推导门控共享记忆，拦截经缓存流出的无权敏感列，并标出同名 KPI 的定义冲突。
提出 AgentPrivArena 与运行时审计，评测 Agent 轨迹级隐私泄露
- Published
- Evaluated models
- GPT-5.4, DeepSeek-V4-Pro, Kimi-K2.6 and others6
发布 OVERACT 衡量工具智能体主动越权取数并评测 SELFAUDIT
- Published
- Evaluated models
- Qwen3.6-Flash, Qwen3.6-Plus, Qwen3.7-Max and others7
Abstract七模型普遍超额调用。
七个来自四个家族的工具调用模型，在保守的字面授权准则下会检索超出请求的私人数据。作者把该行为称为 proactive over-authorization，用 OVERACT 做无 LLM 评审的测量，并用 SELFAUDIT 做不依赖 oracle 的执行前过滤。
提出 A2A-TIBA，经 A2A 对等任务间接注入并植入常驻回调
- Published
- Evaluated models
- MiniMax-M3, deepseek-v4-pro, glm-5.3 and others8
AbstractA2A-TIBA 一次植入后绕过智能体，GDA 用四类结果定位防线，ELA-ITL 把信封标注列为第三层。
A2A-TIBA 把间接提示注入和绕过放进 A2A：gray-box 攻击者已能投递任务，诱导目标部署常驻回调程序后，下令和外传不再经过智能体。
提出 FlowReview，用授权配对与确定性提交门控控制多智能体组合信息流
- Published
- Evaluated models
- Sonnet 4.5, Haiku 4.5, Qwen3-32B and others5
Abstract配对标准要求拒绝禁止使用并完成授权使用，FlowReview 把三项审查接到执行。
这篇工作把多智能体安全写成一件必须同时成立的事：拦住组合信息所启用的禁止使用，并完成同一场景里任务所需的授权使用。
评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取
- Published
Abstract此 harness 表达不了编译器可读而智能体不可读，五条路径两边都不覆盖。
作者在物理流求解器上检查一套编码智能体配置：编译器必须读本组材料与反应模型，这些字节又不得进入模型上下文或离开本机的记录。
用 RevLeakBench 测量 LLM 交付物修订痕迹的无意泄露
- Published
- Evaluated models
- GPT-5.6, GPT-5.5, DeepSeek-V4-Pro and others6
Abstract修订痕迹让撤回项重新进入交付物。
修订痕迹指模型按要求删掉或换掉一项后，又在交代这次修改时把它写进给第三方的交付物。
提出并评测保险库中介执行边界，隔离 Agent 的 API 凭据
- Published
- Evaluated models
- Corvic Security Vault
Abstract作者称，凭据分离可减少披露路径，但权限、操作授权和配置验证仍需独立控制。
这是一项智能体 API 凭据威胁分析及 Vault 执行边界的功能评测。作者关心的不是模型能否承诺保密，而是认证材料是否会进入模型、日志、记忆和执行代码。
提出身份绑定且委托只衰减的能力令牌，用上下文外钱包约束智能体
- Published
Abstract用只衰减的身份绑定令牌和上下文外钱包，约束代表人类行动的分布式智能体。
代表人类行动的分布式智能体，需要一种不把密钥放进语言模型上下文的授权方式。
提出 FLOWSEAL，用工具级信息流控制阻断智能体隐私泄露
- Published
- Evaluated models
- DeepSeek-V3.2, GPT-4.1-mini, Gemini-Flash-2.5
Abstract作者分析大模型智能体隐私检查与攻击面重合问题，提出外部拦截防御 FLOWSEAL 并验证有效性。
提出 Skill-as-API，隔离多智能体协作中的 skill 正文与系统提示词
- Published
Abstract协议把 skill 正文留在所有者侧，四层限制发现内容、权限期限和注入拼接。
Skill-as-API 是面向智能体软件工程的协调协议，用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁：经通道或命名空间抽取专有方法，用注入让被调用模型输出系统提示词，以及协作结束后权限继续保留。
提出 AgentFlow 流策略语言与运行时框架，约束智能体跨步数据流
- Published
提出 AuthBench 评测编码 Agent 最小权限，并验证充足性-紧缩性分解
- Published
- Evaluated models
- GPT-5, GPT-5.3-Codex, GPT-5.4 and others9
Abstract论文提出权限边界推断基准与两阶段分解方法，有效降低安全暴露。
本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。
You have reached the end