跳到正文
10月13日 · 周二

全部论文

找到 6篇
筛选3

攻击类型

提示注入6

防御类型

检测与过滤6指令与数据隔离7权限与审批11监控与审计6

系统形态

模型与 API45LLM 应用22AI Agent42coding agent8web agent3网页与电脑操作1多智能体5

攻击面/入口

用户输入5Agent 间消息3

层

应用层6

系统组件

护栏与评审6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 227篇还没打标签，不在筛选结果里。
防御类型：检测与过滤系统形态：网页与电脑操作系统形态：多智能体清除全部

另有227篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.07657

    DEFER1 多智能体防御研究报告受控测试中的攻击成功率下降

    实现 DEFER，以确定性检查优先拦截多智能体流水线的内容攻击

    arXiv
    2610.07657
    发表
    层
    应用层
    场景
    多智能体
    被测模型
    Qwen3-235B-A22B-Instruct-2507、gpt-oss-120b、Llama-4-Scout-17B-16E-Instruct 等5个
    摘要DEFER 把确定性检查放在 judge 之前。

    DEFER 用来测量多智能体授权流水线里，确定性规则在何处结束、LLM judge 从何处开始。

    深度解读完整解读
  2. 防御arXiv 2610.04412

    论文研究 LLM 数字孪生参与增强民主时的提示注入脆弱性

    提出检测、结构化与 GSPO 流程，降低共识生成的提示注入错位

    arXiv
    2610.04412
    发表
    层
    应用层
    场景
    LLM 应用、多智能体
    被测模型
    LLaMA-2 7B、LLaMA-3 8B、GPT 3.5 Turbo 等14个
    摘要三章依次做个体偏好预测、政党知识图谱审议，以及共识生成对提示注入的脆弱性与一条防御流程。

    这是一篇把 LLM 数字孪生放进增强民主的博士论文，分个体表示、政党聚合和共识生成的提示注入三章。

    深度解读完整解读
  3. 防御arXiv 2606.08234

    SciTrace：面向科学发现智能体的轨迹感知安全推理框架

    提出 SciTrace，为科学发现智能体加入跨阶段安全推理与工具轨迹核验

    arXiv
    2606.08234
    发表
    层
    应用层
    场景
    science agent、多智能体
    被测模型
    Llama-3.1-70B-Instruct、Qwen2.5-72B-Instruct、DeepSeek-V3 等4个
    摘要SciTrace 把安全推理织入科学智能体各阶段，在 SciSafetyBench 上提高安全指标并保持输出质量。

    SciTrace 是加在科学发现智能体流水线上的安全框架，不是再在各阶段出口放一个独立过滤器。

    深度解读完整解读
  4. 防御arXiv 2603.14707

    视觉混淆代理：利用与防御计算机使用智能体的感知失效

    提出进程外双通道对比分类，拦截计算机使用智能体的错误点击

    arXiv
    2603.14707
    发表
    层
    应用层
    场景
    网页与电脑操作
    被测模型
    multi-modal-embed-small
    摘要感知错误可被屏幕像素对调利用。

    作者把 CUA 的感知失败写成安全漏洞visual confused deputy：智能体按看错的屏幕授权 click(x,y)，真实落点与它以为的元素不一致。

    深度解读完整解读
  5. 防御arXiv 2603.04474

    从火花到烈火：建模并缓解基于 LLM 的多智能体协作中的错误级联

    提出谱系图治理层抑制多智能体协作的错误级联

    arXiv
    2603.04474
    发表
    层
    应用层
    场景
    多智能体
    摘要单一种子可沿固定协作图固化为错误共识。

    作者把 LLM-MAS 中“小错变成集体错误共识”做成图上的可测传播，并用只改消息、不改拓扑的插件压低最终感染。

    深度解读完整解读
  6. 防御arXiv 2505.23559

    SafeScientist：让 LLM 智能体的科学发现具备风险意识

    提出 SafeScientist 四层监控，阻止科研智能体执行高风险或不伦理任务

    arXiv
    2505.23559
    发表
    层
    应用层
    场景
    science agent、多智能体
    被测模型
    GPT-4o、GPT-4.1、GPT-3.5-turbo 等5个
    摘要四层监控加科研安全基准。

    SafeScientist 是带四层监控的科研智能体框架，并用 SciSafetyBench 评测科学场景中的任务安全。

    深度解读完整解读
已经到底了