Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 33 papers

Another 213papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.03089

    COBRA: A Dual-LLM Architecture for Defending Computer-Using Agents Against Branch-Jumping Attacks

    提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击

    Published
    Evaluated models
    gpt-5, UI-TARS-1.5-7B, claude-sonnet-5 and others6

    Abstract提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    Paper analysisRead analysis
  2. DefensesarXiv 2609.35659

    Tracekit:面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit,审计编码 Agent 的意图、推理与动作并检测账本篡改

    Published
    Evaluated models
    Claude Code (claude -p, version 2.1), 独立评审(同一 CLI,无工具)
    AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层:把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链,执行前用正则门,事后用规则和独立模型互查。

    Paper analysisRead analysis
  3. DefensesarXiv 2609.34245

    研究者提出面向结构化 Agent 动作的多源完整性认证方法

    提出多源完整性认证器,在结构化 Agent 动作执行前按控制域决定准入或弃权

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.8, GPT-5.5, Gemini 3.1 Pro and others5
    Abstract作者给出条件性的动作完整性认证。

    这是一项结构化动作执行前的完整性防御研究,对象是从可腐化文档和工具输出拼装的支付等特权动作。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.17648

    多智能体 LLM 流水线中的信任传播与结构隔离

    用任务绑定令牌和策略预言机拦住多智能体流水线的未授权执行

    Published
    Evaluated models
    gemma4:31b-cloud
    Abstract结构性授权拦住了记忆投毒的未授权执行,持密钥时承重的是策略预言机。

    作者在一条会改写沙箱邮件库的四智能体流水线上,检查低权限失陷会不会变成未授权的真实动作。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.05901

    KITA:为 LLM Agent 设计密钥隔离的阈值签名授权架构

    提出 KITA,把 Agent 批准绑定到规范动作的密钥隔离阈值签名

    Published
    Setting
    AI Agent
    AbstractKITA 把隔离的阈值签名当作精确动作的执行条件,并测量门控、相关性与签名开销。

    KITA 是一套密钥隔离的阈值授权架构,用来把模型评审变成执行外部动作的条件。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.04767

    SHAQ: Privacy-preserving retrieval in vector databases using shadow queries

    Proposes SHAQ, which replaces document embeddings with shadow query embeddings to defend against embedding inversion.

    Published
    Attacker
    Black-box
    Evaluated models
    GTR-T5 encoder, DPR
    AbstractSHAQ replaces document embeddings with shadow query embeddings.

    SHAQ is a defense against EIA for cloud vector databases: instead of directly modifying document embeddings, it replaces them with shadow query embeddings.

    Paper analysisRead analysis
  7. DefensesarXiv 2607.13716

    CAVA:面向智能体 AI 运行时治理的规范动作验证与证明

    提出 CAVA,将异构智能体运行时事件规范为可哈希动作并绑定审批与回执

    Published
    Setting
    AI Agent
    AbstractCAVA 用规范动作指纹承接异构运行时治理。

    CAVA 是给异构智能体运行时用的动作语义层,用来回答“被批准和被审计的到底是哪一个动作”。

    Paper analysisRead analysis
  8. AttacksarXiv 2606.04329

    研究者系统研究 LLM 智能体记忆投毒攻击并提出 MPBench 基准

    系统研究 LLM 智能体记忆投毒并构建基准 MPBench

    Published
    Setting
    AI Agent
    Evaluated models
    Meta-Llama-3.1-70B-Instruct, Deberta-v3-base, Llama-3.1-8B-Instruct and others5

    Abstract系统研究了智能体记忆投毒风险,揭示了写入渠道漏洞,构建了 MPBench 基准并指出提示注入防御的局限。

    Paper analysisRead analysis