Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 9 papers提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务
- Published
- Evaluated models
- ObligationGuard, Claude-Opus-4.8, GPT-5.6-Sol and others17
Abstract义务是护栏缺口。
作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。
实现 DEFER，以确定性检查优先拦截多智能体流水线的内容攻击
- Published
- Evaluated models
- Qwen3-235B-A22B-Instruct-2507, gpt-oss-120b, Llama-4-Scout-17B-16E-Instruct and others5
AbstractDEFER 把确定性检查放在 judge 之前。
DEFER 用来测量多智能体授权流水线里，确定性规则在何处结束、LLM judge 从何处开始。
提出 ASA 与 AttestMCP，度量并降低 LLM 对输入序列扰动的敏感
- Published
- Evaluated models
- Gemma-3-27B-Instruct, Gemma-3-4B-Instruct, Llama-3.2-3B-Instruct and others12
对比类型化评审与生成式评审对智能体轨迹的安全判定
- Published
- Evaluated models
- JEV, GLM-5.2-Tencent, DeepSeek-V4-Flash and others5
AbstractJEV 的四基准平均正类 F1 最高，延迟和估计费用更低，但分数据集与精确率有取舍。
在已保存的工具使用智能体轨迹上，比较类型化评审 JEV 与四种生成式评审的回溯安全分类。
构建支付欺诈基准 ACB，评测花钱智能体的欺诈检测
- Published
- Evaluated models
- gordonguard, pattern judge
AbstractACB 把支付欺诈与智能体操纵分开测量，作者强调观察权限、误报预算和微支付复核成本。
ACB 是一套智能体支付欺诈基准与检测参考栈，目标是衡量钱是否被不当提取，而不仅是智能体是否接受了恶意指令。
提出 ATF 与 NTR，过滤或恢复工具集以阻止 Agent 调用攻击工具
- Published
- Evaluated models
- Gemma2-9B, Qwen2-7B, LLaMA3-8B and others7
评测 Agent 记忆系统的软撤回执行情况，并提出陈旧检索防护
- Published
- Evaluated models
- GPT-5.5, Grok-4, DeepSeek-V4-Flash and others9
Abstract系统揭示了记忆系统软撤回在检索时普遍未执行的安全漏洞，证明写回会击穿现有防御，并提出读取端防护作为必要控制手段。
提出静态优先核验器 CARE，在派发前判定智能体 shell 命令可否执行
- Published
提出进程外双通道对比分类，拦截计算机使用智能体的错误点击
- Published
- Evaluated models
- multi-modal-embed-small
Abstract感知错误可被屏幕像素对调利用。
作者把 CUA 的感知失败写成安全漏洞visual confused deputy：智能体按看错的屏幕授权 click(x,y)，真实落点与它以为的元素不一致。
You have reached the end