跳到正文
10月10日 · 周六

全部论文

找到 29 篇
筛选4

攻击类型

越狱29提示注入14投毒与后门5模型篡改5提取与窃取3检测规避10

攻击技术

梯度与表征优化13自动化搜索33多轮渐进18编码与混淆19角色扮演与说服11对话结构操控6推理链操控5跨模态载荷20针对防御8

影响

有害内容25输出被操纵3

系统形态

模型与 API25AI Agent3

攻击者权限

黑盒16白盒13

攻击面/入口

用户输入25图像与音视频5

层

提示层24应用层4

系统组件

护栏与评审3音频3多模态5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
攻击类型：越狱攻击技术：梯度与表征优化攻击技术：角色扮演与说服攻击技术：对话结构操控清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  6. 攻击arXiv 2609.03247

    研究揭示大语言模型的自发身份认证失败：五款模型的分阶段开发者身份实验

    提出 MIPC 与 CFA，观察模型自拟测验后接受开发者身份

    arXiv
    2609.03247
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    ChatGPT、Claude、Qwen3.7-Plus 等 5 个
    摘要自拟测验可造成对话层虚假认证，但所测授权边界并未因此改变。

    这项工作把“模型自己出题、自己批改、再宣布身份已核验”定义成对话层认证失败，并与后端提权分开。

    深度解读完整解读
  7. 攻击arXiv 2609.02414

    Blueprint 框架用世界观模拟与 18 个影响因子提升多轮越狱成功率

    提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出

    arXiv
    2609.02414
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Qwen3-Next-80B、DeepSeek-V3.2、GLM-4.7 等 6 个
    摘要BLUEPRINT 解耦多轮越狱策略与情境模拟，揭示任务具象化是摆脱拒绝的核心机制，为多轮安全防御提供新视角。

    BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。

    深度解读完整解读
  8. 攻击arXiv 2609.02172

    BOSS：以广度优先后缀搜索改进 GCG 越狱优化

    提出广度优先后缀搜索 BOSS，改进 GCG 越狱优化

    arXiv
    2609.02172
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    Llama-2-7B-Chat、Yi-1.5-9B-Chat、Qwen2-7B-Instruct 等 8 个
    摘要BOSS 把 GCG 类优化从单条深搜索改为多条短轨迹加源侧诊断。

    BOSS 是插在 GCG 类离散 suffix 优化上的搜索框架：局部梯度更新不变，变的是固定预算花在深度还是广度。

    深度解读完整解读
  10. 攻击arXiv 2608.07430

    研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

    arXiv
    2608.07430
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Qwen2.5-7B-Instruct、LLaDA-8B-Instruct、Dream-Instruct-7B 等 15 个
    摘要论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。

    深度解读完整解读
  11. 攻击arXiv 2607.23496

    Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景

    提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景

    arXiv
    2607.23496
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    被测模型
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 6 个

    摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。

    深度解读完整解读
  12. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱，诱导 IDE 编程 Agent 在多轮开发中编写有害代码

    arXiv
    2607.03968
    发表
    层
    应用层
    场景
    coding agent
    攻击者
    黑盒

    摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。

    深度解读完整解读
  17. 评测与基准arXiv 2606.02630

    MultiTurnPSB

    构建 MultiTurnPSB，评测四轮医疗越狱与分类器输入防御

    arXiv
    2606.02630
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-4.1-mini、Claude Sonnet 4.5
    摘要多轮攻击加剧医疗模型风险，分类器干预有效但受高误报率制约。

    MultiTurnPSB 针对患者端医疗大模型在持续交互中的安全风险，构建了包含三种攻击模态的四轮对抗评测基准。

    深度解读完整解读
  20. 攻击arXiv 2605.07399

    研究者提出 GPO-V，用全局概率优化越狱扩散视觉语言模型

    提出 GPO-V，用全局概率优化的视觉扰动越狱扩散视觉语言模型

    arXiv
    2605.07399
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    被测模型
    LLaDA-V、LaViDA
    摘要作者用视觉扰动改 dVLM 的全局生成概率，以绕过两类拒绝。

    GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。

    深度解读完整解读
加载更多