跳到正文
10月8日 · 周四

全部论文

找到 17 篇
筛选1

攻击类型

越狱13提示注入1投毒与后门2模型篡改1

攻击技术

梯度与表征优化4自动化搜索7多轮渐进4编码与混淆3角色扮演与说服3对话结构操控1推理链操控4跨模态载荷2针对防御1潜伏触发2

影响

有害内容17越权操作23数据与隐私泄露22输出被操纵12可用性与可靠性2监督失效4滥用能力提升1

系统形态

模型与 API15AI Agent2编程 Agent2

攻击者权限

黑盒12白盒2无盒1

攻击面/入口

用户输入15图像与音视频2训练数据2权重与梯度1

层

提示层13模型层1应用层1训练与数据层2

系统组件

护栏与评审5推理链4微调与开源权重2视觉1视频1图像生成1多模态3

被测模型厂商

OpenAI13Google13DeepSeek11Qwen（阿里）11Anthropic9Meta8其他13
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。
影响：有害内容清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.07723 ·

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    模型与 API测试Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个训练与数据层

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    完整解读
  5. 攻击arXiv:2610.01367 ·

    研究：高质量数据筛选挡不住投毒

    提出 Bi-QSTO，优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本

    模型与 API测试Llama2-7B-Chat、Llama3-8B-Instruct、Qwen2-7B-Instruct 等 5 个训练与数据层
    摘要质量筛选挡不住部分高分样本的安全削弱。

    Bi-QSTO 研究一个实际训练缺口：基于质量的数据选择会先于微调决定样本去留，而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验：选择能否排除毒样本。

    完整解读
  6. 攻击arXiv:2610.01062 ·

    Kernelized Activation Steering：将激活引导推广到再生核希尔伯特空间的新框架

    提出核化激活引导 KAS，在推理时自适应转向激活以诱导越狱

    模型与 API测试Qwen2.5-7B-Instruct、Gemma-2-9B-IT、Llama-3.1-8B-Instruct 等 6 个模型层
    摘要KAS 用核梯度做局部自适应转向，并在线性核下恢复 DiM。

    Kernelized Activation Steering（KAS） 把推理时的激活转向写成核空间中的优化，使更新随当前激活相对源、目标参考集的位置而变化。

    完整解读
  8. 评测与基准arXiv:2609.09798 ·

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    编程 Agent攻击者黑盒无盒测试CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个应用层

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    完整解读
  9. 攻击arXiv:2609.09553 ·

    研究：任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱，无需微调即可诱导有害输出

    模型与 API攻击者黑盒测试Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等 7 个提示层

    摘要前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。

    完整解读
  16. 攻击arXiv:2609.02414 ·

    Blueprint 框架用世界观模拟与 18 个影响因子提升多轮越狱成功率

    提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出

    模型与 API攻击者黑盒测试Qwen3-Next-80B、DeepSeek-V3.2、GLM-4.7 等 6 个提示层
    摘要BLUEPRINT 解耦多轮越狱策略与情境模拟，揭示任务具象化是摆脱拒绝的核心机制，为多轮安全防御提供新视角。

    BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。

    完整解读
已经到底了