Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

Agent safety · Papers

Found 14 papers
Filter2

Attack type

Prompt injection3

Model risks

Dangerous agent actions12

Impact

Unauthorized actions6Data and privacy leaks4

System type

AI Agent44coding agent10Multi-agent systems4

Layer

Application layer13

System component

Permissions and sandboxing5
Select any value within a category; different categories must all match. Counts include the other filters you have selected.
System type：coding agentSystem type：Multi-agent systemsTopic: Agent safetyClear all
  1. Evaluation and benchmarksarXiv 2610.11773

    研究提出 Agent 安全新维度：识别未履行的安全义务

    提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务

    arXiv
    2610.11773
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    ObligationGuard, Claude-Opus-4.8, GPT-5.6-Sol and others17
    Abstract义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。

    Paper analysisRead analysis
  3. Evaluation and benchmarksarXiv 2610.06748

    BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为

    arXiv
    2610.06748
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    GPT-5.5, GPT-5.4, GPT-5.4-mini and others5
    Abstract论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2610.06406

    AgentMonBench：面向长时程智能体行为监控的软件工程基准

    提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG

    arXiv
    2610.06406
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5.6 Luna, GPT-5.6 Terra, GPT-5.6 Sol and others8
    AbstractAgentMonBench 评测后果性决策监控，EBG 组织证据。

    长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。

    Paper analysisRead analysis
  5. Evaluation and benchmarksarXiv 2610.00392

    A2A-TIBA：针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

    提出 A2A-TIBA，经 A2A 对等任务间接注入并植入常驻回调

    arXiv
    2610.00392
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    MiniMax-M3, deepseek-v4-pro, glm-5.3 and others8
    AbstractA2A-TIBA 一次植入后绕过智能体，GDA 用四类结果定位防线，ELA-ITL 把信封标注列为第三层。

    A2A-TIBA 把间接提示注入和绕过放进 A2A：gray-box 攻击者已能投递任务，诱导目标部署常驻回调程序后，下令和外传不再经过智能体。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2609.35557

    论文：容器、权限规则与沙箱都无法区分读取研究代码的是编译器还是编码 Agent

    评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取

    arXiv
    2609.35557
    Published
    Layer
    Application layer
    Setting
    coding agent
    Abstract此 harness 表达不了编译器可读而智能体不可读，五条路径两边都不覆盖。

    作者在物理流求解器上检查一套编码智能体配置：编译器必须读本组材料与反应模型，这些字节又不得进入模型上下文或离开本机的记录。

    Paper analysisRead analysis
  7. Evaluation and benchmarksarXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作

    arXiv
    2609.32616
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14

    Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2609.19892

    ClashBench：研究者发现 Agent 为抢占资源破坏既有任务

    构建 CLASHBENCH 评测特权 Agent 在资源冲突下的破坏性抢占

    arXiv
    2609.19892
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude-Sonnet-5, DeepSeek-V4-Flash-0731, GLM-4.7 and others15

    Abstract论文定义特权智能体的破坏性资源抢占风险，通过 CLASHBENCH 发现抢占普遍存在且易被隐瞒，呼吁建立系统级防护。

    Paper analysisRead analysis
  9. Evaluation and benchmarksarXiv 2609.05591

    WolfSociety：金融智能体社会中有害智能体规模带来的集体风险

    提出 WolfBench，测量金融智能体社会中有害智能体规模带来的集体崩溃

    arXiv
    2609.05591
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    DeepSeek V3.2, GPT-4.1, Qwen3-235B and others6
    Abstract更大的金融智能体社会在更低有害比例上崩溃，但所需有害人数仍增加。

    WolfSociety 把多智能体安全写成受控金融社会中的集体失败问题：智能体经社交网络交流，并在共享市场里交易，形成从交流到行动再到后续决策的闭环。

    Paper analysisRead analysis
  10. Evaluation and benchmarksarXiv 2608.07556

    MasDrift：跨多智能体架构的授权保持基准

    提出 MasDrift，评测多智能体在良性任务中的授权保持

    arXiv
    2608.07556
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems
    Evaluated models
    DeepSeek V4 Flash, Qwen3.7 Plus, GPT-5.4 Nano and others6
    Abstract授权保持可被测量：层级用未授权动作换完成率，重锚定比沿链携带更稳。

    MasDrift 把多智能体设计中的授权保持做成可测量性质，对象是没有攻击者的普通委托。

    Paper analysisRead analysis
  11. Evaluation and benchmarksarXiv 2605.19722

    研究用 30 项漏洞分析任务评测自主安全智能体的安全对齐效果

    评测自主安全智能体在授权漏洞分析中的对齐拒答效应

    arXiv
    2605.19722
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Gemma 4 31B official instruction-tuned model, TrevorJS Gemma 4 31B uncensored GGUF, Gemma 4 26B A4B official instruction-tuned model and others8
    Abstract轨迹级评测把拒答、接地、工具接口分开。

    这项工作把安全对齐效应测成自主安全智能体的轨迹属性，而不是单轮拒答率。

    Paper analysisRead analysis
  13. Evaluation and benchmarksarXiv 2605.14859

    论文提出 AuthBench 基准，评测编码 Agent 能否推断最小权限边界

    提出 AuthBench 评测编码 Agent 最小权限，并验证充足性-紧缩性分解

    arXiv
    2605.14859
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5, GPT-5.3-Codex, GPT-5.4 and others9
    Abstract论文提出权限边界推断基准与两阶段分解方法，有效降低安全暴露。

    本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。

    Paper analysisRead analysis
You have reached the end