Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

Agent safety · Papers

Found 17 papers
  1. DefensesarXiv 2610.07657

    DEFER1 多智能体防御研究报告受控测试中的攻击成功率下降

    实现 DEFER,以确定性检查优先拦截多智能体流水线的内容攻击

    Published
    Evaluated models
    Qwen3-235B-A22B-Instruct-2507, gpt-oss-120b, Llama-4-Scout-17B-16E-Instruct and others5
    AbstractDEFER 把确定性检查放在 judge 之前。

    DEFER 用来测量多智能体授权流水线里,确定性规则在何处结束、LLM judge 从何处开始。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.03089

    COBRA:为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击

    Published
    Evaluated models
    gpt-5, UI-TARS-1.5-7B, claude-sonnet-5 and others6

    Abstract提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.00371

    FlowReview:以授权配对评测控制多智能体组合信息流

    提出 FlowReview,用授权配对与确定性提交门控控制多智能体组合信息流

    Published
    Evaluated models
    Sonnet 4.5, Haiku 4.5, Qwen3-32B and others5
    Abstract配对标准要求拒绝禁止使用并完成授权使用,FlowReview 把三项审查接到执行。

    这篇工作把多智能体安全写成一件必须同时成立的事:拦住组合信息所启用的禁止使用,并完成同一场景里任务所需的授权使用。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.35659

    Tracekit:面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit,审计编码 Agent 的意图、推理与动作并检测账本篡改

    Published
    Evaluated models
    Claude Code (claude -p, version 2.1), 独立评审(同一 CLI,无工具)
    AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层:把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链,执行前用正则门,事后用规则和独立模型互查。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.17648

    多智能体 LLM 流水线中的信任传播与结构隔离

    用任务绑定令牌和策略预言机拦住多智能体流水线的未授权执行

    Published
    Evaluated models
    gemma4:31b-cloud
    Abstract结构性授权拦住了记忆投毒的未授权执行,持密钥时承重的是策略预言机。

    作者在一条会改写沙箱邮件库的四智能体流水线上,检查低权限失陷会不会变成未授权的真实动作。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.05901

    KITA:为 LLM Agent 设计密钥隔离的阈值签名授权架构

    提出 KITA,把 Agent 批准绑定到规范动作的密钥隔离阈值签名

    Published
    Setting
    AI Agent
    AbstractKITA 把隔离的阈值签名当作精确动作的执行条件,并测量门控、相关性与签名开销。

    KITA 是一套密钥隔离的阈值授权架构,用来把模型评审变成执行外部动作的条件。

    Paper analysisRead analysis
  7. DefensesarXiv 2609.29647

    AgentKernel:面向 Agent 的可信原生操作系统内核

    提出 AgentKernel,用四支柱强制中介 Agent 的输入、工具与记忆

    Published
    Setting
    AI Agent
    AbstractAgentKernel 是四支柱智能体 OS 设计,安全论证未附带实测数字。

    AgentKernel 是把安全做成组织原则的智能体 OS 架构,不是带跑分的攻防评测。

    Paper analysisRead analysis
  8. DefensesarXiv 2607.13716

    CAVA:面向智能体 AI 运行时治理的规范动作验证与证明

    提出 CAVA,将异构智能体运行时事件规范为可哈希动作并绑定审批与回执

    Published
    Setting
    AI Agent
    AbstractCAVA 用规范动作指纹承接异构运行时治理。

    CAVA 是给异构智能体运行时用的动作语义层,用来回答“被批准和被审计的到底是哪一个动作”。

    Paper analysisRead analysis
  9. DefensesarXiv 2606.24322

    Protecting LLM agent long-term memory from poisoning: tamper-evident, source-bound permissions and machine-checkable guarantees

    提出 TMA-NM,以写时来源绑定抵御 Agent 长期记忆投毒

    Published
    Setting
    AI Agent
    Evaluated models
    gpt-5-chat, gpt-4o-mini, claude-opus-4.1 and others8
    AbstractTMA-NM 用来源绑定的行动权限挡住记忆洗白。

    TMA-NM 把 LLM 智能体长期记忆的行动权限绑到写时来源,用来挡住跨会话记忆投毒。

    Paper analysisRead analysis
  10. DefensesarXiv 2603.12644

    揭示自主 Agent 的安全威胁与防御架构:OpenClaw 案例研究

    梳理自主 Agent 威胁并提出全生命周期防御蓝图 FASA

    Published
    Setting
    AI Agent
    Abstract以 OpenClaw 为例划分三层风险,并用 FASA 描述从输入到系统执行的防御。

    这是一份以 OpenClaw 为案例的威胁梳理和防御架构报告,不是带分数的攻击或防御评测。

    Paper analysisRead analysis
  11. DefensesarXiv 2603.11619

    驯服 OpenClaw:自主 LLM 智能体威胁的安全分析与缓解

    提出对齐五阶段的纵深防御,缓解自主 Agent 跨阶段威胁

    Published
    Setting
    AI Agent
    Abstract这是对 OpenClaw 的生命周期威胁分析与分层缓解设计,案例为定性证据。

    这是对 OpenClaw 的生命周期威胁分析,并配套一套分层缓解设计。要处理的问题是:自主智能体把即时通讯、持久记忆、第三方插件和高权限执行连在一起之后,攻击不再限于单轮越狱,而会跨初始化到执行的多个阶段复合。作者认为只加固单个接口的防御,挡不住这种跨时间攻击。

    Paper analysisRead analysis
  12. DefensesarXiv 2602.10915

    Blind Gods and Broken Screens: Building a Secure, Intent-Centric Mobile Agent Operating System

    提出 Aura,用可信内核中介移动 Agent 的身份、感知与动作控制

    Published
    Evaluated models
    Gemini-3-Flash
    AbstractAura mediates structured interactions via the Agent Kernel.

    Aura uses kernel-mediated structured agent interaction, replacing screen-interface mobile assistants..

    Paper analysisRead analysis
You have reached the end