Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 16 papers消融比较方言越狱中表层形式、文化框架与策略库的作用
- Published
- Evaluated models
- GPT-4o, DeepSeek-Reasoner, DeepSeek-Chat
提出 SAST-IR，用有状态攻击者迭代说服无记忆模型接受反事实
- Published
- Evaluated models
- DeepSeek-Chat
提出 MIPC 与 CFA，观察模型自拟测验后接受开发者身份
- Published
- Evaluated models
- ChatGPT, Claude, Qwen3.7-Plus and others5
Abstract自拟测验可造成对话层虚假认证，但所测授权边界并未因此改变。
这项工作把“模型自己出题、自己批改、再宣布身份已核验”定义成对话层认证失败，并与后端提权分开。
提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出
- Published
- Evaluated models
- Qwen3-Next-80B, DeepSeek-V3.2, GLM-4.7 and others6
AbstractBLUEPRINT 解耦多轮越狱策略与情境模拟，揭示任务具象化是摆脱拒绝的核心机制，为多轮安全防御提供新视角。
BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
- Published
- Evaluated models
- Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B and others6
Abstract该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
提出 Persona Attack，分步写入对话记忆指令以越狱
- Published
- Evaluated models
- GPT-4o, Llama-3.2-3B-Instruct, ChatGPT-4o and others5
提出 PCSA，用人设多轮模拟咨询来访者以诱导有害共情回复
- Published
- Evaluated models
- Llama-3.1-8B, Llama-3.1-70B, GPT-3.5-Turbo and others8
提出复合越狱，叠对比结构、权威人设与自评饱和指令层级
- Published
- Evaluated models
- OpenAI gpt-oss-20b
提出 S2C 越狱，用情境改写、切分和线索伪装推迟有害意图整合
- Published
- Evaluated models
- Llama3.3-70B-Instruct, DeepSeek-r1, DeepSeek-v3 and others16
提出 STAR 多轮角色扮演框架，利用对话状态演化绕过安全对齐
- Published
- Evaluated models
- GPT-4o, Claude 3.5 Sonnet, Gemini 2.0-Flash and others5
提出黑盒 context nesting，用结构化补全任务嵌套有害请求越狱扩散 LLM
- Published
- Evaluated models
- LLaDA-8B-Instruct, LLaDA-1.5, Dream-v0-Instruct-7B and others5
Abstract去噪抑制多种越狱。
作者把 D-LLM 相对 AR-LLM 越狱的稳健性称为 safety blessing，并把 context nesting 当作它的 black-box 失效方式。
提出音频叙事越狱，以嗓音投递风格绕过端到端语音模型拒答
- Published
- Evaluated models
- GPT-4o Realtime, Gemini 2.0 Flash, Qwen2.5-Omni-7B
提出 ICON 多轮越狱，用意图-上下文先验生成攻击序列
- Published
- Evaluated models
- Llama-4-Maverick-Instruct, Llama-3.1-405B-Instruct, Qwen-Max-2025-01-25 and others11
用醉酒语言诱导改编对话模型并评测越狱与隐私泄露
- Published
- Evaluated models
- LLaMA2-7B, LLaMA3-8B, Mistral-7B and others5
Abstract醉酒语言诱导在五个 LLM 上抬高越狱与部分隐私错误，作者将其视为攻击向量。
作者把醉酒语言当作攻击向量，检验把 LLM 适配成醉酒发短信的模式后，越狱和情境隐私是否变差。动机是人类醉酒时的失范与泄密，以及 LLM 模拟人设的能力。
AttacksarXiv 2510.17904· 提出 BreakFun ，用模拟代码执行中的对象实例化越狱模型
- Published
- Evaluated models
- GPT-4.1 Mini, Gemini 2.5 Flash, Claude-3.5 Sonnet and others16
AttacksarXiv 2505.12287· 提出四段越狱提示，评测中英提示对闭源模型的绕过效果
- Published
- Evaluated models
- GPT-4o, DeepSeek-R1, Gemini-1.5-Pro and others4
You have reached the end