Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 7 papers评测编码智能体 harness 安全机制在对抗任务中的防护效果
- Published
为 Agent 提出资源层授权系统 Pincer，用数字分身执行动态最小权限
- Published
- Evaluated models
- Claude Haiku 4.5, Muse Spark 1.2 Contributor
AbstractPincer 在资源层以三票合取做授权。
Pincer 是加在现成 coding agent 上的资源层授权防御：用只受用户侧信息影响的 digital twin 做动态最小权限，并与 tool-call 层防御并存。要处理的是用户维护策略带来的权限蠕变和授权疲劳，以及不学习用户策略的 tool-call 分类器。作者引述工作称 auto mode 会放行多数不安全操作，并认为推理代码或复杂 shell 的效果在这一层不实际。
提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改
- Published
- Evaluated models
- Claude Code (claude -p, version 2.1), 独立评审（同一 CLI，无工具）
AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
提出残余权限重放攻击，跨任务复用长期 Agent 的历史授权绕过确认
- Published
- Evaluated models
- GPT-4.1, Gemini-3.1-Flash-Lite, Qwen3-14B and others6
提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作
- Published
- Evaluated models
- Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14
Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。
提出 AttestChain，将供应链安全智能体报告签名上链并据此控制发布
- Published
- Evaluated models
- GPT-class LLM
AbstractAttestChain 将智能体报告与链上发布门控结合，现有证据来自受控合成构建的总体结果。
AttestChain 是一个把 LLM 安全检查、智能体身份验证和许可链发布策略连接起来的软件供应链防御框架。。
提出 BENCHJACK，审计 Agent 基准中的奖励作弊缺陷
- Published
Abstract论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。
论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。
You have reached the end