Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 25 papers

Another 203papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.00392

    A2A-TIBA:针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

    提出 A2A-TIBA,经 A2A 对等任务间接注入并植入常驻回调

    Published
    Evaluated models
    MiniMax-M3, deepseek-v4-pro, glm-5.3 and others8
    AbstractA2A-TIBA 一次植入后绕过智能体,GDA 用四类结果定位防线,ELA-ITL 把信封标注列为第三层。

    A2A-TIBA 把间接提示注入和绕过放进 A2A:gray-box 攻击者已能投递任务,诱导目标部署常驻回调程序后,下令和外传不再经过智能体。

    Paper analysisRead analysis
  2. Study evaluates GradSafe's jailbreak detection vulnerability in multi-turn dialogues

    评测多轮对话中 GradSafe 越狱检测的可分性与脆弱性

    Published
    Evaluated models
    Llama 3.1 8B Instruct, Qwen2.5-7B-Instruct
    AbstractCWS 显示不安全梯度在真实多轮流量中变弱,且随攻击族和模型而变。

    作者评估梯度越狱检测从单条提示词迁到多轮对话后还剩多少可分性,方法是用 Context Window Scanner 把 GradSafe 原封不动地套到用户轮窗口上。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.03247

    研究揭示大语言模型的自发身份认证失败:五款模型的分阶段开发者身份实验

    提出 MIPC 与 CFA,观察模型自拟测验后接受开发者身份

    Published
    Evaluated models
    ChatGPT, Claude, Qwen3.7-Plus and others5
    Abstract自拟测验可造成对话层虚假认证,但所测授权边界并未因此改变。

    这项工作把“模型自己出题、自己批改、再宣布身份已核验”定义成对话层认证失败,并与后端提权分开。

    Paper analysisRead analysis
  4. AttacksarXiv 2609.02414

    Blueprint 框架用世界观模拟与 18 个影响因子提升多轮越狱成功率

    提出多轮越狱框架 BLUEPRINT,用世界观模拟与心理因素诱导有害输出

    Published
    Attacker
    Black-box
    Evaluated models
    Qwen3-Next-80B, DeepSeek-V3.2, GLM-4.7 and others6
    AbstractBLUEPRINT 解耦多轮越狱策略与情境模拟,揭示任务具象化是摆脱拒绝的核心机制,为多轮安全防御提供新视角。

    BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。

    Paper analysisRead analysis
  5. OtherarXiv 2608.01117

    SoK 论文提出面向意图的多轮 LLM 越狱分类体系

    提出面向意图的多轮 LLM 越狱分类体系

    Published
    Evaluated models
    Llama-3, Llama-3.3-70B, DeepSeek-V3 and others11
    Abstract作者用四维意图分类整理多轮越狱,并称组织方式影响效果与观察范围。

    这是一篇关于多轮 LLM 越狱的 SoK:按有害意图在交互中的组织位置分类,而不是按单步提示技巧分类。

    Paper analysisRead analysis
  6. AttacksarXiv 2607.18056

    上海 AI 实验室提出 Intern-BioBreaker,在 14 个前沿模型上暴露生物安全越狱风险

    提出生物红队模型 Intern-BioBreaker,多轮越狱诱导模型输出可操作生物危害

    Published
    Evaluated models
    DeepSeek-V3, Kimi-K2.6, DeepSeek-V4-Pro and others14

    Abstract论文通过构建专用红队模型评估前沿大模型的生物安全漏洞与物理转化风险。

    Paper analysisRead analysis
  7. AttacksarXiv 2607.03968

    The study reveals workflow-level jailbreaks in IDE programming agents: GitHub Copilot generated harmful content across four backends at 816/816

    提出工作流级越狱,让编程 Agent 在开发任务中写入有害示例

    Published
    Evaluated models
    Claude Sonnet 4.6, Claude Haiku 4.5, Gemini 3.1 Pro and others4
    Abstract作者报告 Copilot 后端会在编码工作流中生成其在单轮条件下通常拒绝的有害答案。

    这是一项生产 IDE 编码智能体的工作流越狱研究,受测对象是 Copilot 的四个模型后端,而非评测流水线中的名义目标。

    Paper analysisRead analysis
  8. MultiTurnPSB

    构建 MultiTurnPSB,评测四轮医疗越狱与分类器输入防御

    Published
    Evaluated models
    GPT-4.1-mini, Claude Sonnet 4.5
    Abstract多轮攻击加剧医疗模型风险,分类器干预有效但受高误报率制约。

    MultiTurnPSB 针对患者端医疗大模型在持续交互中的安全风险,构建了包含三种攻击模态的四轮对抗评测基准。

    Paper analysisRead analysis
  9. AttacksarXiv 2604.24082

    研究者提出意图伪装多轮越狱方法,可攻破 GPT-5-thinking 与 Claude-Sonnet-4.5

    提出多轮意图欺骗越狱 iDecep,用良性意图伪装引出有害内容

    Published
    Attacker
    Black-box
    Evaluated models
    GPT-4o, Gemini-2.5-Flash, Claude-Sonnet-4.5 and others4
    AbstractiDecep 用意图欺骗做多轮越狱,在 GPT-5 与 Claude-Sonnet-4.5 上同时测到直接成功和 para 成功。

    iDecep 是一种黑盒多轮越狱:用表面良性的意图维持与恶意目标贴近的对话,并单独计入 safe completion 替代内容中的有害信息。。

    Paper analysisRead analysis
  10. ADVERSA: Measuring Multi-Turn Guardrail Degradation and Judge Reliability in Large Language Models

    Using ADVERSA to measure guardrail degradation and reviewer reliability under multi-turn attacks

    Published
    Evaluated models
    Claude Opus 4.6, Gemini 3.1 Pro, GPT-5.2
    AbstractADVERSA measures multi-turn guardrail changes using per-turn compliance trajectories and three-reviewer consensus.

    ADVERSA is an automated multi-turn red-teaming measurement framework that records guardrail behavior as per-turn compliance trajectories and simultaneously measures whether reviewers agree. The problem it addresses: single-turn binary pass/fail cannot show how safety properties change under sustained adversarial pressure, nor can it separate gradual refusal consolidation from stable scores. The authors argue that real-world adversaries rewrite and persist over multiple turns.

    Paper analysisRead analysis
  11. AttacksarXiv 2603.20198

    研究者提出 MM-Plan 多模态越狱框架

    提出 MM-Plan 多模态越狱框架,自动规划多轮图像编辑以越狱视觉独占目标

    Published
    Attacker
    Black-box
    Evaluated models
    Llama-3.2-11B, InternVL3-8B, Qwen3-VL-8B and others8
    Abstract作者称全局规划能攻破对单轮攻击更稳的前沿 MLLM。

    MM-Plan 是面向 Visual Exclusivity 的 black-box 多模态红队方法,并配有人工基准 VE-Safety。

    Paper analysisRead analysis