Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 3 papers提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改
- Published
- Evaluated models
- Claude Code (claude -p, version 2.1), 独立评审（同一 CLI，无工具）
AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
提出 Janus 前瞻守卫，在长程智能体执行有害动作前拦截潜在风险
- Published
- Evaluated models
- Vanguard
提出进程外双通道对比分类，拦截计算机使用智能体的错误点击
- Published
- Evaluated models
- multi-modal-embed-small
Abstract感知错误可被屏幕像素对调利用。
作者把 CUA 的感知失败写成安全漏洞visual confused deputy：智能体按看错的屏幕授权 click(x,y)，真实落点与它以为的元素不一致。
You have reached the end