跳到正文
10月9日 · 周五

全部论文

找到 307 篇
筛选6

攻击类型

越狱19提示注入16投毒与后门9模型篡改8提取与窃取21检测规避15拒绝服务1恶意使用6

攻击技术

梯度与表征优化7自动化搜索2编码与混淆1推理链操控1跨模态载荷2侧信道1针对防御4潜伏触发5

模型自身风险

欺骗与谋划18奖励作弊6失准与价值偏离15Agent 危险操作8危险能力3拒答失当26幻觉与编造13偏见与歧视11

防御类型

模型加固13推理时干预25检测与过滤6指令与数据隔离4权限与审批3监控与审计16水印与溯源7

影响

有害内容40越权操作16数据与隐私泄露25输出被操纵55可用性与可靠性10监督失效22滥用能力提升1

系统形态

模型与 API271LLM 应用61AI Agent378编程 Agent88网页与电脑操作26多智能体54具身与机器人10

攻击者权限

黑盒11灰盒3白盒7无盒（离线迁移）1

攻击面/入口

用户输入51网页与界面13文档与消息7工具返回2代码仓库与依赖1检索语料1记忆写入2图像与音视频14训练数据6权重与梯度12分发渠道4推理服务与硬件5

层

提示层78模型层259应用层38训练与数据层153基础设施层10

系统组件

MCP 与技能2记忆6护栏与评审9监控器19推理链18权限与沙箱2微调与开源权重9视觉29音频9视频1图像生成12嵌入4多模态49
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 445 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：网页与电脑操作系统形态：具身与机器人层：模型层层：应用层层：基础设施层清除全部

另有 445 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2510.10987

    DITTO：通过知识蒸馏伪造水印 LLM 的作者归属

    提出 DITTO 框架，蒸馏提取水印信号并注入外部模型以伪造归属

    arXiv
    2510.10987
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama3.1-8B、Llama3.2-3B、GPT-OSS 20B 等 4 个

    摘要论文针对大模型水印归属假设的脆弱性，提出黑盒仿冒攻击 DITTO，实现跨架构和采样方案的高检测率与低困惑度仿冒。

    深度解读完整解读
  8. 分析与理论arXiv 2610.09517

    审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

    开环审计冻结视觉安全分，发现偏离主要来自场景模板与视角

    arXiv
    2610.09517
    发表
    层
    模型层
    场景
    具身与机器人
    摘要论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。

    本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。

    深度解读完整解读
  12. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  13. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    网页与电脑操作
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  17. 风险行为arXiv 2610.08670

    研究：后训练配方决定大模型是否违背自身道德判断行事

    提出知行差距面板，测量压力下模型是否违背自身判断

    arXiv
    2610.08670
    发表
    层
    模型层
    场景
    模型与 API
    摘要评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。

    本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。

    深度解读完整解读
  19. 防御arXiv 2610.07774收录

    研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器

    AI 导读研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。

    arXiv
    2610.07774
    收录
    层
    模型层
    场景
    模型与 API
    摘要读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。

    作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。

    深度解读完整解读
加载更多