跳到正文
10月9日 · 周五

全部论文

找到 10 篇
筛选4

攻击类型

越狱12提示注入6投毒与后门5模型篡改3检测规避7恶意使用1

攻击技术

梯度与表征优化7自动化搜索2编码与混淆4角色扮演与说服2推理链操控1针对防御9潜伏触发2

防御类型

检测与过滤1

影响

有害内容3输出被操纵6

系统形态

模型与 API8LLM 应用1AI Agent1多智能体1

攻击者权限

黑盒3灰盒1白盒2

攻击面/入口

用户输入5Agent 间消息1图像与音视频3训练数据1权重与梯度3推理服务与硬件1

层

提示层5模型层5

系统组件

护栏与评审3视觉1多模态1

被测模型厂商

Meta5其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 482 篇还没打标签，不在筛选结果里。
攻击类型：模型篡改攻击类型：检测规避攻击技术：梯度与表征优化攻击技术：编码与混淆清除全部

另有 482 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.07430

    研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

    arXiv
    2608.07430
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    测试
    Qwen2.5-7B-Instruct、LLaDA-8B-Instruct、Dream-Instruct-7B 等 15 个
    摘要论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。

    深度解读完整解读
  2. 攻击arXiv 2606.09700

    研究者提出 HPAA 攻击：用排版视觉线索绕过 13 个内容审核系统

    提出 HPAA 攻击，用排版视觉线索绕过内容审核系统

    arXiv
    2606.09700
    发表
    层
    提示层
    场景
    LLM 应用
    攻击者
    黑盒
    测试
    Llama-Guard-3-8B、Perspective API、ShieldGemma-2B 等 13 个
    摘要揭示了排版视觉线索与分词差异带来的审核盲区，HPAA 以极低查询实现近乎完全规避。

    这篇论文研究了人类视觉感知与大模型分词处理机制之间的差异所导致的内容审核漏洞。

    深度解读完整解读
  3. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    灰盒
    测试
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  6. 评测与基准arXiv 2607.19855

    研究者提出最小范数攻击集成，用鲁棒性曲线替代单一 ε 评测

    提出最小范数攻击集成，用鲁棒性曲线评测图像分类器

    arXiv
    2607.19855
    发表
    层
    提示层
    场景
    模型与 API
    测试
    C1–C20（CIFAR-10，Table 1）、I1–I10（ImageNet，Table 1）
    摘要预算可控的最小范数集成用 AOI 逼近攻击前沿，DOI 给出不依赖单一ε的防御排序。

    这篇工作把对抗鲁棒评测从单一 ε、固定集成，改成可按查询预算收紧的曲线估计。

    深度解读完整解读
  7. 评测与基准arXiv 2609.05843

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    arXiv
    2609.05843
    发表
    层
    提示层
    场景
    模型与 API
    测试
    GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  8. 攻击arXiv 2610.01062

    Kernelized Activation Steering：将激活引导推广到再生核希尔伯特空间的新框架

    提出核化激活引导 KAS，在推理时自适应转向激活以诱导越狱

    arXiv
    2610.01062
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Gemma-2-9B-IT、Llama-3.1-8B-Instruct 等 6 个
    摘要KAS 用核梯度做局部自适应转向，并在线性核下恢复 DiM。

    Kernelized Activation Steering（KAS） 把推理时的激活转向写成核空间中的优化，使更新随当前激活相对源、目标参考集的位置而变化。

    深度解读完整解读
已经到底了