Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 15 papers实现 DEFER，以确定性检查优先拦截多智能体流水线的内容攻击
- Published
- Evaluated models
- Qwen3-235B-A22B-Instruct-2507, gpt-oss-120b, Llama-4-Scout-17B-16E-Instruct and others5
AbstractDEFER 把确定性检查放在 judge 之前。
DEFER 用来测量多智能体授权流水线里，确定性规则在何处结束、LLM judge 从何处开始。
提出 VAL 框架，并用确认门与参数沙箱约束智能体高风险工具调用
- Published
- Evaluated models
- DeepSeek-chat, Meta Llama 3.1 8B, Kimi
提出 Kubernetes 运维智能体的七层纵深防御框架与参考架构
- Published
Abstract把运维智能体当不可信租户，用七层控制在完全攻破假设下约束行动。
把 Kubernetes 上的运维智能体当作不可信租户，在假定提示注入已完全控制其工具选择的前提下，用基础设施重建数据面与控制面的边界。要解决的是：智能体读日志、注解、工单或 MCP 工具描述时，这些内容可以变成它带着自身凭据执行的命令。模型对齐和分类器只降低概率。
提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改
- Published
- Evaluated models
- Claude Code (claude -p, version 2.1), 独立评审（同一 CLI，无工具）
AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
测试编程智能体被诱导或自主篡改自身执行轨迹的行为
- Published
- Evaluated models
- GPT-5.6-Sol, GPT-6-Sol, Opus-5 and others11
Abstract论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
用 FARSIGHT 方案级评测金融 LLM 交易 Agent 的稳健性与安全失败
- Published
- Evaluated models
- ChatGPT Deep Research
用任务绑定令牌和策略预言机拦住多智能体流水线的未授权执行
- Published
- Evaluated models
- gemma4:31b-cloud
Abstract结构性授权拦住了记忆投毒的未授权执行，持密钥时承重的是策略预言机。
作者在一条会改写沙箱邮件库的四智能体流水线上，检查低权限失陷会不会变成未授权的真实动作。
提出 AgentKernel，用四支柱强制中介 Agent 的输入、工具与记忆
- Published
AbstractAgentKernel 是四支柱智能体 OS 设计，安全论证未附带实测数字。
AgentKernel 是把安全做成组织原则的智能体 OS 架构，不是带跑分的攻防评测。
提出 ClawSentry 多层监控网关，在技能准入和运行时拦截恶意技能与隐藏指令
- Published
- Evaluated models
- Codex/GPT-5.4, Codex/GPT-5.5, Claude Code/GLM-5.1 and others6
AbstractClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。
ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。
构建自演化基准 ActBench，评测协作智能体的行为安全
- Published
- Evaluated models
- Claude-Opus-4.8, Claude-Sonnet-4.6, GPT-5.5 and others15
AbstractActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。
提出 Janus 前瞻守卫，在长程智能体执行有害动作前拦截潜在风险
- Published
- Evaluated models
- Vanguard
提出 TMA-NM，以写时来源绑定抵御 Agent 长期记忆投毒
- Published
- Evaluated models
- gpt-5-chat, gpt-4o-mini, claude-opus-4.1 and others8
AbstractTMA-NM 用来源绑定的行动权限挡住记忆洗白。
TMA-NM 把 LLM 智能体长期记忆的行动权限绑到写时来源，用来挡住跨会话记忆投毒。
建模并利用多智能体网络中子智能体生成时的记忆继承漏洞
- Published
- Evaluated models
- MiniMax M2.5, Llama-4-Maverick-17B-128E-Instruct-FP8, Qwen3.5-Plus and others5
Abstract形式化子智能体继承，在 OpenClaw 上演示四类编排层漏洞并提出防御。
作者对多智能体网络里的子智能体继承做形式化分析，并用开源框架上的 PoC 演示编排层如何让单点妥协继续扩散。
梳理自主 Agent 威胁并提出全生命周期防御蓝图 FASA
- Published
Abstract以 OpenClaw 为例划分三层风险，并用 FASA 描述从输入到系统执行的防御。
这是一份以 OpenClaw 为案例的威胁梳理和防御架构报告，不是带分数的攻击或防御评测。
提出对齐五阶段的纵深防御，缓解自主 Agent 跨阶段威胁
- Published
Abstract这是对 OpenClaw 的生命周期威胁分析与分层缓解设计，案例为定性证据。
这是对 OpenClaw 的生命周期威胁分析，并配套一套分层缓解设计。要处理的问题是：自主智能体把即时通讯、持久记忆、第三方插件和高权限执行连在一起之后，攻击不再限于单轮越狱，而会跨初始化到执行的多个阶段复合。作者认为只加固单个接口的防御，挡不住这种跨时间攻击。
You have reached the end