跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 8 篇
筛选5

攻击类型

提示注入6投毒与后门1

攻击技术

自动化搜索2编码与混淆1

防御类型

模型加固1检测与过滤1指令与数据隔离1权限与审批1监控与审计1

影响

越权操作4输出被操纵2可用性与可靠性1

系统形态

LLM 应用3AI Agent5编程 Agent1网页与电脑操作1

攻击面/入口

用户输入7网页与界面3文档与消息6工具返回8工具与技能描述5代码仓库与依赖2检索语料1记忆写入4Agent 间消息1训练数据0权重与梯度1分发渠道6

层

应用层8

系统组件

MCP 与技能1护栏与评审1监控器1权限与沙箱1

被测模型厂商

OpenAI53Qwen（阿里）39Anthropic32DeepSeek27Google25Meta20智谱 GLM13Kimi（月之暗面）10Mistral8xAI8其他25
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 259 篇还没打标签，不在筛选结果里。
攻击面/入口：网页与界面攻击面/入口：文档与消息攻击面/入口：代码仓库与依赖攻击面/入口：训练数据被测模型厂商：Mistral话题：Agent 安全清除全部

另有 259 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2609.13601

    Mind the Gap：检测 DAO 治理中的描述-执行不匹配攻击

    提出 DEMI 检测框架，在执行前识别 DAO 提案描述与执行载荷的不匹配

    arXiv
    2609.13601
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Mistral-Large、GPT-4o、Claude 4.5 Sonnet 等 8 个
    摘要用公开链上数据仿真治理全流程，再以逐动作证据映射在执行前发现描述与执行不一致。

    Mind the Gap 把 DAO 提案的描述–执行不一致（DEMI）做成可在投票窗口内运行的检测问题。。

    深度解读完整解读
  3. 评测与基准arXiv 2609.19140

    AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

    用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

    arXiv
    2609.19140
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    Mistral Small 4、Gemma-4 31B、DeepSeek-V4 Flash 等 6 个
    摘要AgentLSD 用配对 web CTF 表明，欺骗性环境证据会改变安全智能体的解题率与工作量。

    AgentLSD 是一个对照框架，用来测量安全智能体在任务本身不变时，对对抗性任务污染的反应。

    深度解读完整解读
  4. 评测与基准arXiv 2608.28411

    LongPIBench：面向长上下文提示注入的评测基准

    提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

    arXiv
    2608.28411
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Ministral-3-8B-Instruct、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 11 个

    摘要论文构建长文本提示注入基准 LongPIBench，揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。

    深度解读完整解读
  6. 评测与基准arXiv 2609.28915

    研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

    构建 ACE 语料并比较内核与应用层证据的攻击检测效果

    arXiv
    2609.28915
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Devstral 2 123B、AdaBoost、XGBoost 等 13 个
    摘要ACE 用配对的内核与应用层证据表明，syscall 痕迹可判别智能体攻击，两层组合通常更好。

    ACE 是一份把智能体会话的内核 syscall 痕迹与应用层清单、转录配对起来的检测语料和基准。。

    深度解读完整解读
已经到底了