跳到正文
10月13日 · 周二

Agent 安全 · 论文

找到 4篇
筛选2

攻击类型

提示注入4投毒与后门3

模型自身风险

Agent 危险操作3

影响

越权操作4

系统形态

AI Agent4

攻击面/入口

用户输入4文档与消息2工具返回4记忆写入3

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
攻击面/入口：文档与消息攻击面/入口：记忆写入话题：Agent 安全清除全部
  1. 评测与基准arXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作

    arXiv
    2609.32616
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等14个

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    深度解读完整解读
  3. 评测与基准arXiv 2608.09476

    ActBench：面向协作智能体行为安全的自演化基准

    构建自演化基准 ActBench，评测协作智能体的行为安全

    arXiv
    2608.09476
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude-Opus-4.8、Claude-Sonnet-4.6、GPT-5.5 等15个

    摘要ActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。

    深度解读完整解读
  4. 评测与基准arXiv 2601.21083

    OpenSec：测量对抗证据下事件响应 Agent 的校准

    提出 OpenSec，评测事件响应 Agent 在对抗证据下的遏制校准

    arXiv
    2601.21083
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-5.2、Claude Sonnet 4.5、Gemini 3 等5个
    摘要OpenSec 以执行评分测 IR 智能体在对抗证据下是否过度遏制，作者称缺口在克制。

    OpenSec 用 dual-control 事件环境测量 IR 智能体在对抗证据下的校准：分数看实际遏制，不看报告文本。

    深度解读完整解读
已经到底了