跳到正文
10月9日 · 周五

全部论文

找到 128 篇
筛选8

攻击类型

越狱3提示注入20投毒与后门20模型篡改1检测规避11拒绝服务2恶意使用2

攻击技术

梯度与表征优化4自动化搜索4推理链操控1跨模态载荷2针对防御5潜伏触发9诱导选用3

模型自身风险

欺骗与谋划6奖励作弊1失准与价值偏离12Agent 危险操作7危险能力1拒答失当5幻觉与编造13偏见与歧视3

防御类型

模型加固5推理时干预7检测与过滤6指令与数据隔离4权限与审批7监控与审计2水印与溯源5

影响

有害内容48越权操作130数据与隐私泄露57输出被操纵101可用性与可靠性27监督失效64滥用能力提升8

系统形态

模型与 API59LLM 应用24AI Agent69编程 Agent9网页与电脑操作5多智能体12具身与机器人1

攻击者权限

黑盒4灰盒1白盒4

攻击面/入口

用户输入14网页与界面8文档与消息9工具返回11工具与技能描述4代码仓库与依赖1检索语料4记忆写入6Agent 间消息3图像与音视频10训练数据4权重与梯度4分发渠道6推理服务与硬件1

层

提示层18模型层59应用层69训练与数据层38基础设施层2

系统组件

MCP 与技能5记忆14RAG4护栏与评审8监控器1推理链4权限与沙箱5微调与开源权重3视觉9音频4视频1图像生成5嵌入2多模态18
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 445 篇还没打标签，不在筛选结果里。
影响：输出被操纵影响：可用性与可靠性系统形态：模型与 API系统形态：AI Agent系统形态：编程 Agent系统形态：多智能体层：模型层层：应用层清除全部

另有 445 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv 2510.10987

    DITTO：通过知识蒸馏伪造水印 LLM 的作者归属

    提出 DITTO 框架，蒸馏提取水印信号并注入外部模型以伪造归属

    arXiv
    2510.10987
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama3.1-8B、Llama3.2-3B、GPT-OSS 20B 等 4 个

    摘要论文针对大模型水印归属假设的脆弱性，提出黑盒仿冒攻击 DITTO，实现跨架构和采样方案的高检测率与低困惑度仿冒。

    深度解读完整解读
  7. 攻击arXiv 2608.05563

    研究者提出 PoisonedEvolution 轨迹投毒攻击

    提出 PoisonedEvolution 轨迹投毒，诱导自演化技能系统把恶意行为固化为技能

    arXiv
    2608.05563
    发表
    层
    应用层
    场景
    AI Agent
    摘要论文揭示自演化技能系统的证据晋升漏洞，提出并验证轨迹投毒攻击。

    这篇论文揭示了自演化技能系统在将交互经验转化为持久指令时的安全风险。

    深度解读完整解读
  13. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  14. 风险行为arXiv 2610.08670

    研究：后训练配方决定大模型是否违背自身道德判断行事

    提出知行差距面板，测量压力下模型是否违背自身判断

    arXiv
    2610.08670
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个
    摘要评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    深度解读完整解读
  15. 评测与基准arXiv 2610.06898

    DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

    提出 DIBench，评测界面注入对移动智能体选择决策的操纵

    arXiv
    2610.06898
    发表
    层
    应用层
    场景
    网页与电脑操作
    被测模型
    Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个

    摘要论文提出移动智能体决策完整性基准 DIBench，发现欺诈 UI 注入诱导目标选择并推高完成率，通用防御收益不稳定。

    深度解读完整解读
  16. 分析与理论arXiv 2610.06191

    研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

    分析工具型 Agent 判定检索无用却不停止的原因

    arXiv
    2610.06191
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Qwen2.5-7B、Llama-3.1-8B、Qwen3-8B 等 7 个
    摘要论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。

    本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。

    深度解读完整解读
  17. 攻击arXiv 2610.07645

    SkillPoison：用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

    arXiv
    2610.07645
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5
    摘要SkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。

    深度解读完整解读
  19. 防御arXiv 2610.04699

    CoVer：用干预检验为 Agent 构造可判定规则边界

    提出 COVER，以不咨询模型的干预门准入 Agent 规则自动执行

    arXiv
    2610.04699
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude Sonnet、Claude Opus、GPT-4o 等 5 个
    摘要自可判定不能向模型索取。

    这篇工作测的是智能体验证器在检查之前的分流：外部规则里的哪条谓词能用固定过程解决，哪条必须交给评审。

    深度解读完整解读
加载更多