Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 18 papers

Another 254papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.03089

    COBRA:为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构,防御计算机使用 Agent 的分支转向攻击

    Published
    Evaluated models
    gpt-5, UI-TARS-1.5-7B, claude-sonnet-5 and others6

    Abstract提出分支转向防御架构 COBRA,通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    Paper analysisRead analysis
  2. DefensesarXiv 2609.38983

    The paper proposes an Approval Laundering taxonomy and empirically shows that Claude Code's approval and execution binding fails

    形式化编程 Agent 的审批洗白并提出 HMAC 权能令牌防御

    Published
    Evaluated models
    Claude Code (v2.1.197, opus[1m] / claude-sonnet-5-ccmax), Codex CLI (@openai/codex v0.154.0)

    Abstract系统揭示编程智能体审批洗白风险,提出七字段权能防御机制,证实其能消除身份时序偏离但难防副作用偏离。

    Paper analysisRead analysis
  3. DIBench:面向移动 GUI 智能体多候选选择决策完整性的安全基准

    用 DIBench 评测移动 GUI 智能体被 UI 注入后的决策完整性

    Published
    Evaluated models
    Qwen2.5-VL(32B), Qwen3-VL(32B), GUI-Owl(32B) and others7

    Abstract论文提出移动智能体决策完整性基准 DIBench,发现欺诈 UI 注入诱导目标选择并推高完成率,通用防御收益不稳定。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.36170

    Assay:用内容寻址证据图约束 AI 编码智能体的声明失效

    提出 Assay,用依赖锥哈希绑定代码断言并在合并门禁拦截失效声明

    Published
    AbstractAssay 提供随依赖内容失效的证据管理。

    Assay 是一套面向 AI 辅助软件交付的内容寻址证据系统,关注代码改变后,测试通过、无秘密或行为保持等断言还能否用于批准合并。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.35659

    Tracekit:面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit,审计编码 Agent 的意图、推理与动作并检测账本篡改

    Published
    Evaluated models
    Claude Code (claude -p, version 2.1), 独立评审(同一 CLI,无工具)
    AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层:把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链,执行前用正则门,事后用规则和独立模型互查。

    Paper analysisRead analysis
  6. Abstract此 harness 表达不了编译器可读而智能体不可读,五条路径两边都不覆盖。

    作者在物理流求解器上检查一套编码智能体配置:编译器必须读本组材料与反应模型,这些字节又不得进入模型上下文或离开本机的记录。

    Paper analysisRead analysis
  7. MMSkillRisk:多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    Published
    Evaluated models
    GPT-5.6-sol, Kimi-K2.6, Kimi-K3 and others6

    Abstract论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    Paper analysisRead analysis
  8. 研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    测试编程智能体被诱导或自主篡改自身执行轨迹的行为

    Published
    Evaluated models
    GPT-5.6-Sol, GPT-6-Sol, Opus-5 and others11
    Abstract论文评估了本地智能体的轨迹防篡改能力,发现其可因外部指令或奖励追求而清除执行证据,亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    Paper analysisRead analysis
  9. DefensesarXiv 2609.01677

    Skill-as-API:面向智能体软件工程的机密多智能体协作协议

    提出 Skill-as-API,隔离多智能体协作中的 skill 正文与系统提示词

    Published
    Abstract协议把 skill 正文留在所有者侧,四层限制发现内容、权限期限和注入拼接。

    Skill-as-API 是面向智能体软件工程的协调协议,用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁:经通道或命名空间抽取专有方法,用注入让被调用模型输出系统提示词,以及协作结束后权限继续保留。

    Paper analysisRead analysis
  10. 论文提出 AuthBench 基准,评测编码 Agent 能否推断最小权限边界

    提出 AuthBench 评测编码 Agent 最小权限,并验证充足性-紧缩性分解

    Published
    Evaluated models
    GPT-5, GPT-5.3-Codex, GPT-5.4 and others9
    Abstract论文提出权限边界推断基准与两阶段分解方法,有效降低安全暴露。

    本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。

    Paper analysisRead analysis
  11. DefensesarXiv 2603.14707

    视觉混淆代理:利用与防御计算机使用智能体的感知失效

    提出进程外双通道对比分类,拦截计算机使用智能体的错误点击

    Published
    Evaluated models
    multi-modal-embed-small
    Abstract感知错误可被屏幕像素对调利用。

    作者把 CUA 的感知失败写成安全漏洞visual confused deputy:智能体按看错的屏幕授权 click(x,y),真实落点与它以为的元素不一致。

    Paper analysisRead analysis
  12. DefensesarXiv 2602.10915

    Blind Gods and Broken Screens: Building a Secure, Intent-Centric Mobile Agent Operating System

    提出 Aura,用可信内核中介移动 Agent 的身份、感知与动作控制

    Published
    Evaluated models
    Gemini-3-Flash
    AbstractAura mediates structured interactions via the Agent Kernel.

    Aura uses kernel-mediated structured agent interaction, replacing screen-interface mobile assistants..

    Paper analysisRead analysis
You have reached the end