跳到正文
10月9日 · 周五

全部论文

找到 372 篇
筛选5

攻击类型

越狱22提示注入40投毒与后门25模型篡改8提取与窃取21检测规避16恶意使用7

攻击技术

梯度与表征优化6自动化搜索8多轮渐进4编码与混淆2角色扮演与说服1推理链操控1跨模态载荷3针对防御8潜伏触发10诱导选用3

模型自身风险

欺骗与谋划24奖励作弊17失准与价值偏离17Agent 危险操作13危险能力10拒答失当25幻觉与编造16偏见与歧视11

防御类型

模型加固13推理时干预25检测与过滤8指令与数据隔离6权限与审批9监控与审计27水印与溯源7

影响

有害内容40越权操作37数据与隐私泄露31输出被操纵59可用性与可靠性12监督失效37滥用能力提升5

系统形态

模型与 API262LLM 应用60AI Agent380编程 Agent88网页与电脑操作26多智能体55具身与机器人10

攻击者权限

黑盒16灰盒5白盒7无盒（离线迁移）1

攻击面/入口

用户输入54网页与界面14文档与消息12工具返回8工具与技能描述15代码仓库与依赖11检索语料1记忆写入7Agent 间消息4图像与音视频15训练数据7权重与梯度13分发渠道16推理服务与硬件2

层

提示层78模型层260应用层112训练与数据层154基础设施层10

系统组件

MCP 与技能19记忆11护栏与评审14监控器35推理链22权限与沙箱11微调与开源权重10视觉27音频9图像生成13嵌入3多模态47
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 455 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统形态：网页与电脑操作层：模型层层：应用层清除全部

另有 455 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv 2510.10987

    DITTO：通过知识蒸馏伪造水印 LLM 的作者归属

    提出 DITTO 框架，蒸馏提取水印信号并注入外部模型以伪造归属

    arXiv
    2510.10987
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama3.1-8B、Llama3.2-3B、GPT-OSS 20B 等 4 个

    摘要论文针对大模型水印归属假设的脆弱性，提出黑盒仿冒攻击 DITTO，实现跨架构和采样方案的高检测率与低困惑度仿冒。

    深度解读完整解读
  5. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱，在 IDE 编程 Agent 多轮流程中诱导生成有害代码

    arXiv
    2607.03968
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒

    摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。

    深度解读完整解读
  7. 攻击arXiv 2608.09732

    ColluSkill 用跨技能组合绕过 Agent 技能扫描器

    提出 ColluSkill 跨技能组合攻击，拆分恶意载荷以绕过技能扫描器

    arXiv
    2608.09732
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、灰盒

    摘要论文揭示了单技能孤立扫描的盲区，提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。

    深度解读完整解读
  12. 分析与理论arXiv 2610.09667

    东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

    揭示推理模型用标识符规则替代随机抽样，使审计可被预测

    arXiv
    2610.09667
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个

    摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。

    深度解读完整解读
  15. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  16. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    网页与电脑操作
    被测模型
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  17. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
加载更多