跳到正文
10月12日 · 周一

全部论文

找到 4篇
筛选3

攻击类型

越狱5提示注入19投毒与后门8恶意使用4

系统形态

模型与 API4AI Agent8coding agent2web agent2

攻击面/入口

用户输入4

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 254篇还没打标签，不在筛选结果里。
攻击类型：恶意使用系统形态：coding agent系统形态：web agent清除全部

另有254篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.05586

    AgentDoxx：联网搜索 Agent 对匿名访谈文本的再识别评测

    构建 AGENTDOXX 基准，评测联网搜索 Agent 对匿名访谈的再识别

    arXiv
    2610.05586
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-5.6 Terra、GPT-5 Mini、GPT-4.1 Mini 等10个

    摘要论文提出了已知身份的重识别基准 AGENTDOXX，揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。

    深度解读完整解读
  2. 评测与基准arXiv 2606.22673

    Agent MechSuits：面向多轮 CLI Agent 的机制子空间安全引导

    提出 Agent MechSuits，对多轮 CLI Agent 做步级检测与子空间转向

    arXiv
    2606.22673
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    LLaMA-3.1-8B、Qwen-2.5-7B、Gemma-2-9B
    摘要白盒步级探针加稀疏转向可压低三模型恶意动作，同时提高生成崩溃率。

    Agent MechSuits 是面向多轮 CLI 智能体的白盒、步级表示防御，并配有可执行轨迹基准 MAS。

    深度解读完整解读
  3. 评测与基准arXiv 2604.02947

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    arXiv
    2604.02947
    发表
    层
    应用层
    场景
    网页与电脑操作、coding agent
    被测模型
    Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等12个
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    深度解读完整解读
  4. 评测与基准arXiv 2503.04957

    SafeArena：首个评估自主网页 Agent 滥用风险的基准

    提出 SafeArena 基准，评测网页 Agent 是否执行故意有害任务

    arXiv
    2503.04957
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-4o、Claude-3.5-Sonnet、Qwen-2-VL-72B 等5个
    摘要SafeArena 用配对任务和 ARIA 评测网页智能体的故意滥用。

    SafeArena 评测自主网页智能体是否会执行用户故意给出的恶意网页任务。。

    深度解读完整解读
已经到底了