Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 11 papersProposes PASAC and a five-layer boundary guarantee stack, turning agent evaluation overstepping into verifiable whole-system guarantees.
- Published
Using FIBS to train white-box probes to monitor agent sabotage behavior and undisclosed deception
- Published
- Evaluated models
- Qwen3.5-397B-A17B, Qwen3.5-122B-A10B, Qwen3.5-27B and others10
提出两阶段门控审计框架，在执行前阻断有害智能体动作
- Published
- Evaluated models
- Claude Sonnet 5.5, Claude Haiku 4.5
提出 AgentPrivArena 与运行时审计，评测 Agent 轨迹级隐私泄露
- Published
- Evaluated models
- GPT-5.4, DeepSeek-V4-Pro, Kimi-K2.6 and others6
提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG
- Published
- Evaluated models
- GPT-5.6 Luna, GPT-5.6 Terra, GPT-5.6 Sol and others8
AbstractAgentMonBench 评测后果性决策监控，EBG 组织证据。
长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。
提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改
- Published
- Evaluated models
- Claude Code (claude -p, version 2.1), 独立评审（同一 CLI，无工具）
AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
提出移动 Agent 轨迹审计器 MATE，判断轨迹是否违反可编辑安全策略
- Published
- Evaluated models
- MATE-0.5B, MATE-1.5B, MATE-3B
AbstractMATE 用合成轨迹微调轻量审计器，在可编辑策略下判断移动智能体轨迹是否违规并给出解释。
MATE 是面向移动 GUI 智能体的轻量策略条件轨迹审计器，在给定自然语言安全策略时判断轨迹是否违规并解释原因。
提出 k-robust 联盟对齐，刻画误对齐评审下的安全委托授权
- Published
Abstract联盟覆盖使无个体对齐的评审面板仍可相对基线安全授权，数值分数改善完备性。
委托授权的安全不要求每位评审者对齐，而要求面板在效用空间覆盖委托人。
提出 HazardAuditor，用可执行轨迹训练计算机使用 Agent 的运行时守卫
- Published
- Evaluated models
- HazardAuditor, HazardAuditor-SFT
提出 ClawSentry 多层监控网关，在技能准入和运行时拦截恶意技能与隐藏指令
- Published
- Evaluated models
- Codex/GPT-5.4, Codex/GPT-5.5, Claude Code/GLM-5.1 and others6
AbstractClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。
ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。
提出 Janus 前瞻守卫，在长程智能体执行有害动作前拦截潜在风险
- Published
- Evaluated models
- Vanguard
You have reached the end