跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 26 篇
筛选2

攻击类型

越狱2提示注入9投毒与后门5恶意使用3

攻击技术

自动化搜索2编码与混淆2跨模态载荷2针对防御1潜伏触发2诱导选用2

模型自身风险

欺骗与谋划1失准与价值偏离4Agent 危险操作3危险能力1拒答失当1

防御类型

检测与过滤1指令与数据隔离1权限与审批2监控与审计1

影响

有害内容1越权操作15数据与隐私泄露2输出被操纵2可用性与可靠性1监督失效1

系统形态

AI Agent26编程 Agent8网页与电脑操作3多智能体3

攻击者权限

黑盒1

攻击面/入口

用户输入7网页与界面1文档与消息2工具返回3工具与技能描述4代码仓库与依赖3记忆写入5Agent 间消息2图像与音视频2分发渠道2推理服务与硬件1

层

应用层26

系统组件

MCP 与技能5记忆6RAG1监控器1权限与沙箱3视觉3音频1多模态3

被测模型厂商

OpenAI58Anthropic43Qwen（阿里）38Google31DeepSeek28智谱 GLM24Meta22Kimi（月之暗面）21xAI12MiniMax8Mistral7其他17
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 377 篇还没打标签，不在筛选结果里。
被测模型厂商：Kimi（月之暗面）被测模型厂商：xAI话题：Agent 安全清除全部

另有 377 篇论文还没打上分类标签，暂不在筛选结果里。

  4. 评测与基准arXiv:2610.03938 ·

    论文发现多模态模型启用工具后拒答失败率最高上升 68.7%

    评测启用工具调用后多模态模型拒答有害图文请求的变化

    AI Agent测试Kimi-K2.5、Kimi-K2.6、Gemini-2.5-Pro 等 13 个应用层
    摘要论文揭示了工具调用范式削弱 MLLM 拒答能力的现象，分析了稀释与偏移机制并验证了重注缓解方案。

    论文系统评估了智能体工具调用范式对多模态大语言模型拒答能力的影响，指出了工具增强视觉推理背后的安全隐患。核心探讨的问题在于：当 MLLM 从单次推理转向通过 ReAct 循环调用外部工具（打标、缩放、OCR、代码执行）时，工具使用机制本身是否会降低模型拒答有害请求的概率。

    完整解读
  6. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Kimi-K2、Kimi-K2.5、Qwen2.5-72B-Instruct 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  12. 评测与基准arXiv:2608.11469 ·

    SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

    构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力

    编程 Agent测试Grok-4.5、GPT-6-Astra、GPT-5.6-Sol 等 11 个应用层
    摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。

    完整解读
  15. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试Grok 4.1 Fast、GPT-5.4、Claude Sonnet 4.6 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  17. 评测与基准arXiv:2609.35596 ·

    SEABench：评测自演化智能体的内生失配

    提出 SEABench，评测无参数自进化智能体的内生失配

    AI Agent测试Kimi K2.5、Grok 4.3、GPT 5.6 Luna 等 4 个应用层
    摘要SEABench 显示无参数自进化能提高任务完成，同时在配对未进化基线安全的下游任务上引入可归因的安全失败。

    SEABench 是一个面向个人助理、参数不更新的自进化智能体基准，用来测量局部适应如何变成后续任务上的内生失配。。

    完整解读
  19. 评测与基准arXiv:2609.06966 ·

    Mole：面向前沿实验室 AI 智能体的内部威胁检测基准

    提出 MOLE 基准，评测智能体内部威胁的完成情况与监控漏检

    多智能体测试Kimi-K2.6、GPT-5.3 Chat、GPT-5.5 等 15 个应用层
    摘要MOLE 构建了智能体内部威胁检测基准，作者指出高漏检现状与推理痕迹的防御价值，并展示了监控策略优化空间。

    MOLE 是首个针对前沿 AI 实验室智能体内部威胁检测的开放基准，旨在评估在有限每日审查预算与日常研发业务背景下识别恶意账号的能力。。

    完整解读
加载更多