Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 5 papers提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务
- Published
- Evaluated models
- ObligationGuard, Claude-Opus-4.8, GPT-5.6-Sol and others17
Abstract义务是护栏缺口。
作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。
对比类型化评审与生成式评审对智能体轨迹的安全判定
- Published
- Evaluated models
- JEV, GLM-5.2-Tencent, DeepSeek-V4-Flash and others5
AbstractJEV 的四基准平均正类 F1 最高，延迟和估计费用更低，但分数据集与精确率有取舍。
在已保存的工具使用智能体轨迹上，比较类型化评审 JEV 与四种生成式评审的回溯安全分类。
构建支付欺诈基准 ACB，评测花钱智能体的欺诈检测
- Published
- Evaluated models
- gordonguard, pattern judge
AbstractACB 把支付欺诈与智能体操纵分开测量，作者强调观察权限、误报预算和微支付复核成本。
ACB 是一套智能体支付欺诈基准与检测参考栈，目标是衡量钱是否被不当提取，而不仅是智能体是否接受了恶意指令。
评测 Agent 记忆系统的软撤回执行情况，并提出陈旧检索防护
- Published
- Evaluated models
- GPT-5.5, Grok-4, DeepSeek-V4-Flash and others9
Abstract系统揭示了记忆系统软撤回在检索时普遍未执行的安全漏洞，证明写回会击穿现有防御，并提出读取端防护作为必要控制手段。
提出进程外双通道对比分类，拦截计算机使用智能体的错误点击
- Published
- Evaluated models
- multi-modal-embed-small
Abstract感知错误可被屏幕像素对调利用。
作者把 CUA 的感知失败写成安全漏洞visual confused deputy：智能体按看错的屏幕授权 click(x,y)，真实落点与它以为的元素不一致。
You have reached the end