跳到正文
10月10日 · 周六

全部论文

找到 91 篇
筛选1

攻击类型

越狱67提示注入6提取与窃取3检测规避10

攻击技术

梯度与表征优化19自动化搜索32多轮渐进11编码与混淆17角色扮演与说服10对话结构操控5推理链操控8跨模态载荷26针对防御7

影响

有害内容63数据与隐私泄露3输出被操纵20可用性与可靠性3

系统形态

模型与 API83AI Agent6coding agent3具身与机器人3

攻击者权限

黑盒59灰盒3白盒12

攻击面/入口

用户输入75图像与音视频30

层

提示层91模型层33应用层128训练与数据层31基础设施层8

系统组件

护栏与评审20推理链9视觉20音频5图像生成9多模态36
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
层：提示层清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.11112

    EpiReal-Bench：商用图像生成模型虚假声明红队基准

    构建 EpiReal-Bench，评测图像生成器将虚假主张渲染为可信证据

    arXiv
    2610.11112
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Nano Banana 2、Grok Imagen 2.0 等 4 个
    摘要四款商用图像模型能把假主张画成可信证据。

    EpiReal-Bench 用来量商用图像生成器会不会把虚假现实主张画成可信视觉证据。

    深度解读完整解读
  4. 攻击arXiv 2610.07323

    ATLAS：用自适应信任域与主动学习搜索潜在对抗样本集

    提出 ATLAS 用水平集估计恢复黑盒分类器的对抗输入集合

    arXiv
    2610.07323
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    LeNet5、ResNet50 (CIFAR-10 standard)、ResNet50 (ImageNet standard) 等 5 个
    摘要ATLAS 用主动水平集估计构造黑盒对抗集，作者称其集合比单点攻击更具代表性。

    ATLAS 是一个查询式 black-box 框架，用来构造诱发失败的对抗输入集合，供鲁棒性审计使用。

    深度解读完整解读
  6. 攻击arXiv 2610.06093

    研究评测训练数据提取风险的跨语言迁移

    用翻译前缀做跨语言训练数据提取，恢复英语训练文本中的 PII

    arXiv
    2610.06093
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-Neo 1.3B、GPT-Neo 2.7B、GPT-J 6B 等 7 个
    摘要跨语言 TDE 能恢复英语记忆的 PII，转移随多语训练和措辞保真变化。

    这篇工作检验训练数据抽取是否跨语言：英语段落里记住的 PII，能否被其他语言的前缀逐字抽出。

    深度解读完整解读
  7. 攻击arXiv 2610.05346

    研究者提出序列马赛克攻击并给出防御理论

    形式化 watchman 防御以阻止序贯马赛克攻击

    arXiv
    2610.05346
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、DeepSeek-V2-Lite (16B-A2.4B)
    摘要watchman 理论给出零失败且有用的条件。

    这篇工作同时给出序贯马赛克防御的博弈理论，以及冻结 LLM 上的分角色自博弈训练。

    深度解读完整解读
  11. 攻击arXiv 2610.02302

    研究者提出意图隐藏越狱的信息论框架，分析组合式攻击

    提出组合式意图隐藏越狱，按先验后验匹配选择辅助任务

    arXiv
    2610.02302
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等 7 个
    摘要用信息论选含目标的任务组合，再看查询能否既隐藏意图又让目标被执行。

    这篇工作把组合式意图隐藏写成任务选择：有害目标必须留在 bundle 里，同时让估计的有害意图概率贴近全集先验，或降到阈值以下。

    深度解读完整解读
  14. 攻击arXiv 2609.38253

    CollageAttack：利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱

    提出 CollageAttack，用空间文本碎片重组越狱文生图模型

    arXiv
    2609.38253
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等 5 个

    摘要系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。

    深度解读完整解读
  15. 攻击arXiv 2609.36474

    FinRT：将自适应红队策略蒸馏为消费金融领域的可复用对抗生成器

    提出 FinRT，将消费金融自适应红队轨迹蒸馏为可复用对抗提示生成器

    arXiv
    2609.36474
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama-3.3-70B、Llama-3.1-8B、Mixtral-8x7B 等 6 个
    摘要FinRT 用前向失效发现加校准代理 DPO，把消费金融红队收成单次前向生成器。

    FinRT 是面向消费金融的红队框架：先发现政策失效，再训练一个按政策、领域与目标行为出提示的生成器。

    深度解读完整解读
加载更多