Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

Agent safety · Papers

Found 7 papers
  1. DefensesarXiv 2610.03089

    COBRA:为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击

    Published
    Evaluated models
    gpt-5, UI-TARS-1.5-7B, claude-sonnet-5 and others6

    Abstract提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    Paper analysisRead analysis
  2. DefensesarXiv 2609.05901

    KITA:为 LLM Agent 设计密钥隔离的阈值签名授权架构

    提出 KITA,把 Agent 批准绑定到规范动作的密钥隔离阈值签名

    Published
    Setting
    AI Agent
    AbstractKITA 把隔离的阈值签名当作精确动作的执行条件,并测量门控、相关性与签名开销。

    KITA 是一套密钥隔离的阈值授权架构,用来把模型评审变成执行外部动作的条件。

    Paper analysisRead analysis
  3. DefensesarXiv 2603.12644

    揭示自主 Agent 的安全威胁与防御架构:OpenClaw 案例研究

    梳理自主 Agent 威胁并提出全生命周期防御蓝图 FASA

    Published
    Setting
    AI Agent
    Abstract以 OpenClaw 为例划分三层风险,并用 FASA 描述从输入到系统执行的防御。

    这是一份以 OpenClaw 为案例的威胁梳理和防御架构报告,不是带分数的攻击或防御评测。

    Paper analysisRead analysis
  4. DefensesarXiv 2603.11619

    驯服 OpenClaw:自主 LLM 智能体威胁的安全分析与缓解

    提出对齐五阶段的纵深防御,缓解自主 Agent 跨阶段威胁

    Published
    Setting
    AI Agent
    Abstract这是对 OpenClaw 的生命周期威胁分析与分层缓解设计,案例为定性证据。

    这是对 OpenClaw 的生命周期威胁分析,并配套一套分层缓解设计。要处理的问题是:自主智能体把即时通讯、持久记忆、第三方插件和高权限执行连在一起之后,攻击不再限于单轮越狱,而会跨初始化到执行的多个阶段复合。作者认为只加固单个接口的防御,挡不住这种跨时间攻击。

    Paper analysisRead analysis
  5. DefensesarXiv 2602.10915

    Blind Gods and Broken Screens: Building a Secure, Intent-Centric Mobile Agent Operating System

    提出 Aura,用可信内核中介移动 Agent 的身份、感知与动作控制

    Published
    Evaluated models
    Gemini-3-Flash
    AbstractAura 以 Agent Kernel 中介结构化交互。

    Aura 用内核中介的结构化智能体交互,替换以屏幕为接口的移动助手。。

    Paper analysisRead analysis
You have reached the end