Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 37 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.09469

    Secure-CUA: Constraining the Impact of Untrusted Content in Computer-Use Agents

    提出 Secure-CUA,用动作事务约束计算机使用智能体的不可信影响

    Published
    Setting
    web agent
    Evaluated models
    Claude Opus 5, Gemini 3.8 Flash, GPT-5.6-Sol
    AbstractSecure-CUA 用每步事务约束不可信影响,良性 TSR 接近 Vanilla-CUA。

    Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响,同时保留合法任务所需的不可信信息。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.05640

    Research reveals that the CaMeL defense fails in multi-agent systems and proposes multi-CaMeL

    提出 multi-CaMeL,在智能体调用边界隔离可信指令与非可信数据

    Published
    Evaluated models
    Claude Fable 5, GPT-5.5, GPT-4.1 and others6

    Abstract论文针对多智能体中单体防御不组合的边界清洗问题,提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.02861

    论文提出在 Kubernetes 上保护 AI Agent 的七层纵深防御框架与参考架构

    提出 Kubernetes 运维智能体的七层纵深防御框架与参考架构

    Published
    Setting
    AI Agent
    Abstract把运维智能体当不可信租户,用七层控制在完全攻破假设下约束行动。

    把 Kubernetes 上的运维智能体当作不可信租户,在假定提示注入已完全控制其工具选择的前提下,用基础设施重建数据面与控制面的边界。要解决的是:智能体读日志、注解、工单或 MCP 工具描述时,这些内容可以变成它带着自身凭据执行的命令。模型对齐和分类器只降低概率。

    Paper analysisRead analysis
  4. DefensesarXiv 2610.03089

    COBRA: A Dual-LLM Architecture for Defending Computer-Using Agents Against Branch-Jumping Attacks

    提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击

    Published
    Evaluated models
    gpt-5, UI-TARS-1.5-7B, claude-sonnet-5 and others6

    Abstract提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.01349

    PACE:面向工具调用 LLM Agent 的来源感知能力强制执行

    提出 PACE,在工具调用前做路径隔离与效果授权

    Published
    Setting
    AI Agent
    Evaluated models
    gpt-5.6-luna, DeepSeek-V4-Flash, Qwen-3.8-27B
    AbstractPACE 在工具边界做路径割与效果核验。

    PACE 是面向工具调用型 LLM 智能体的运行时调解:当准入证据无法区分会改变行为的规格时,不在出口站点上撤销调解,而在最后一次工具调用前同时检查表示出的影响路径和请求权限。

    Paper analysisRead analysis
  6. DefensesarXiv 2610.02569

    Pincer:用数字分身学习用户偏好并执行动态最小权限

    为 Agent 提出资源层授权系统 Pincer,用数字分身执行动态最小权限

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Haiku 4.5, Muse Spark 1.2 Contributor
    AbstractPincer 在资源层以三票合取做授权。

    Pincer 是加在现成 coding agent 上的资源层授权防御:用只受用户侧信息影响的 digital twin 做动态最小权限,并与 tool-call 层防御并存。要处理的是用户维护策略带来的权限蠕变和授权疲劳,以及不学习用户策略的 tool-call 分类器。作者引述工作称 auto mode 会放行多数不安全操作,并认为推理代码或复杂 shell 的效果在这一层不实际。

    Paper analysisRead analysis
  7. DefensesarXiv 2609.35932

    同字节不同权限:保留 token 表示如何放大聊天模板提示注入

    提出来源感知分词防御,削弱工具返回伪造的对话模板注入

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen3-8B, Qwen3-32B, Llama-3.1-8B-Instruct and others6

    Abstract对话模板注入的权威性主要来自保留词元的学得向量而非文本语法,推理具有补偿作用,现有分词防御遗留工具协议漏洞。

    Paper analysisRead analysis
  8. DefensesarXiv 2609.33371

    论文提出保险库中介执行边界,评估 LLM Agent 的 API 凭据处理风险

    提出并评测保险库中介执行边界,隔离 Agent 的 API 凭据

    Published
    Setting
    AI Agent
    Evaluated models
    Corvic Security Vault
    Abstract作者称,凭据分离可减少披露路径,但权限、操作授权和配置验证仍需独立控制。

    这是一项智能体 API 凭据威胁分析及 Vault 执行边界的功能评测。作者关心的不是模型能否承诺保密,而是认证材料是否会进入模型、日志、记忆和执行代码。

    Paper analysisRead analysis
  9. AttacksarXiv 2609.28585

    论文提出持久计费状态概念,揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    定义工具调用 Agent 的持久计费状态,提出拒绝钱包攻击与防御

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-4o, GPT-4o-mini, Mistral-Large and others7
    Abstract已准入工具返回的跨轮保留会重复计费。

    这篇工作把工具调用智能体里跨轮保留、并被提供商反复计费的外部工具返回定义为 persistent billable state,并把它的主机侧再次送入决定当作控制点。。

    Paper analysisRead analysis
  10. DefensesarXiv 2609.18674

    CaMeLoT:用 CTL 时序逻辑在执行前静态验证 Agent 计划

    提出 CaMeLoT,用 CTL 在执行前静态核验 Agent 计划

    Published
    Setting
    AI Agent
    Evaluated models
    claude-haiku-4-5-20251001, GPT-4.1 nano, GPT-4.1 mini and others5
    AbstractCaMeLoT 在执行前用 CTL 模型检验补上 CaMeL 缺少的整段执行规范,并用反例修复计划。

    CaMeLoT 是 CaMeL 的神经符号扩展:在工具调用之前,用模型检验判断受限 Python 计划是否满足时序安全策略和从提示词抽出的任务性质。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.14631

    IntentCap 提出按任务意图限定 LLM Agent 权限的机制

    提出 IntentCap,按来源字段所有权合成并裁决 Agent 能力租约

    Published
    Setting
    AI Agent
    Abstract四源字段租约约束副作用。

    IntentCap 是把智能体能力绑到当前任务意图、并按上下文来源划分字段所有权的权限机制。

    Paper analysisRead analysis
  12. DefensesarXiv 2609.05901

    KITA:为 LLM Agent 设计密钥隔离的阈值签名授权架构

    提出 KITA,把 Agent 批准绑定到规范动作的密钥隔离阈值签名

    Published
    Setting
    AI Agent
    AbstractKITA 把隔离的阈值签名当作精确动作的执行条件,并测量门控、相关性与签名开销。

    KITA 是一套密钥隔离的阈值授权架构,用来把模型评审变成执行外部动作的条件。

    Paper analysisRead analysis