Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 12 papers
Filter1

Attack type

Prompt injection4

Model risks

Dangerous agent actions7

Defense type

Permissions and approval5

Impact

Unauthorized actions8Data and privacy leaks3

System type

AI Agent12coding agent3

Layer

Application layer12

System component

MCP and skills17Memory29RAG11Guardrails and judges69Monitors28Reasoning chains11Permissions and sandboxing12Fine-tuning and open weights5Vision33Audio11Video8Image generation7Multimodal52
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 233papers have no tags yet and are not included in filtered results.
System component：Permissions and sandboxingClear all

Another 233papers do not have category tags yet and are not included in filtered results.

  2. Evaluation and benchmarksarXiv 2610.07359

    论文实测 Agent 工具调用门控栈的失败相关性

    提出 nmult 并评测 Agent 动作门禁堆叠的错误相关性

    arXiv
    2610.07359
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    AgentTrust runtime (174 rules), GPT-5.5 (gpt55), claude-haiku-4-5-20251001 and others7
    Abstract论文实测发现大模型裁判间错误显著相关，作者主张按机制选型并在整栈层面度量防护增益。

    论文是一项针对智能体动作拦截防御堆叠故障关联性与实际组合价值的实证测量研究。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2610.02664

    论文提出 GHOST：长程智能体在良性对话中遗忘早期安全约束

    提出 STAR-Guard 双层防御，抑制长程 Agent 遗忘跨轮安全约束

    arXiv
    2610.02664
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    GPT-5.5, DeepSeek-V4-Pro, GLM-5.2 and others7

    Abstract揭示 GHOST 跨轮约束遗忘风险，构建 SCARBench 基准并通过 STAR-Guard 双层防御消除违规。

    Paper analysisRead analysis
  5. Evaluation and benchmarksarXiv 2610.00392

    A2A-TIBA：针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

    提出 A2A-TIBA，经 A2A 对等任务间接注入并植入常驻回调

    arXiv
    2610.00392
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    MiniMax-M3, deepseek-v4-pro, glm-5.3 and others8
    AbstractA2A-TIBA 一次植入后绕过智能体，GDA 用四类结果定位防线，ELA-ITL 把信封标注列为第三层。

    A2A-TIBA 把间接提示注入和绕过放进 A2A：gray-box 攻击者已能投递任务，诱导目标部署常驻回调程序后，下令和外传不再经过智能体。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2609.35557

    论文：容器、权限规则与沙箱都无法区分读取研究代码的是编译器还是编码 Agent

    评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取

    arXiv
    2609.35557
    Published
    Layer
    Application layer
    Setting
    coding agent
    Abstract此 harness 表达不了编译器可读而智能体不可读，五条路径两边都不覆盖。

    作者在物理流求解器上检查一套编码智能体配置：编译器必须读本组材料与反应模型，这些字节又不得进入模型上下文或离开本机的记录。

    Paper analysisRead analysis
  7. Evaluation and benchmarksarXiv 2609.37501

    RegLLM：面向受监管智能体 AI 的有限自主性诊断测试框架

    提出 REGLLM 框架，评测受监管智能体何时作答或升级

    arXiv
    2609.37501
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-3B
    AbstractREGLLM 把升级对错做成可核验信号，并在 smoke 规模上看到适配器方向被运行方差淹没。

    REGLLM 是诊断有界自主的框架，示例是 UK FCA 合规智能体。作者把它做成 smoke 规模演示，而不是完整基准验证。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2609.26900

    Ajar：在 AgentDojo 上测量 Agent 防御中未关闭的权限

    提出 Ajar，测量 Agent 防御对任务不需要的工具调用的放行

    arXiv
    2609.26900
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Sonnet-5, Haiku-4.5
    AbstractAjar 用宿主基准的真值给防御的开放权限打分，OPL 独立于攻击成功和效用。

    Ajar 量的是智能体防御留下的开放权限：任务不需要、但防御仍会允许的工具调用。

    Paper analysisRead analysis
  10. Evaluation and benchmarksarXiv 2608.09476

    ActBench: A Self-Evolving Benchmark for Behavioral Safety of Collaborative Agents

    构建自演化基准 ActBench，评测协作智能体的行为安全

    arXiv
    2608.09476
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Claude-Opus-4.8, Claude-Sonnet-4.6, GPT-5.5 and others15

    AbstractActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。

    Paper analysisRead analysis
  11. Evaluation and benchmarksarXiv 2608.07556

    MasDrift：跨多智能体架构的授权保持基准

    提出 MasDrift，评测多智能体在良性任务中的授权保持

    arXiv
    2608.07556
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    DeepSeek V4 Flash, Qwen3.7 Plus, GPT-5.4 Nano and others6
    Abstract授权保持可被测量：层级用未授权动作换完成率，重锚定比沿链携带更稳。

    MasDrift 把多智能体设计中的授权保持做成可测量性质，对象是没有攻击者的普通委托。

    Paper analysisRead analysis
  12. Evaluation and benchmarksarXiv 2605.14859

    论文提出 AuthBench 基准，评测编码 Agent 能否推断最小权限边界

    提出 AuthBench 评测编码 Agent 最小权限，并验证充足性-紧缩性分解

    arXiv
    2605.14859
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5, GPT-5.3-Codex, GPT-5.4 and others9
    Abstract论文提出权限边界推断基准与两阶段分解方法，有效降低安全暴露。

    本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。

    Paper analysisRead analysis
You have reached the end