跳到正文
10月10日 · 周六

越狱与攻击 · 论文

找到 4 篇
筛选4

攻击类型

越狱4

攻击技术

梯度与表征优化11自动化搜索27多轮渐进11编码与混淆14角色扮演与说服8对话结构操控4推理链操控4跨模态载荷18针对防御4

影响

有害内容4

系统形态

模型与 API4AI Agent4网页与电脑操作0多智能体0

攻击者权限

黑盒3

攻击面/入口

用户输入4

层

提示层3

系统组件

护栏与评审3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
攻击技术：针对防御系统形态：模型与 API系统形态：网页与电脑操作系统形态：多智能体话题：越狱与攻击清除全部
  1. 攻击arXiv 2610.06670

    研究者提出 Reward Stealing Attack，从对齐模型行为反推安全奖励实施攻击

    提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转

    arXiv
    2610.06670
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒、灰盒
    被测模型
    Llama3.1-8B-Instruct、Gemma-7B-Instruct、Qwen2.5-7B-Instruct 等 9 个
    摘要ReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。

    ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。

    深度解读完整解读
  2. 攻击arXiv 2606.21077

    OTTER：仅替换五个 token 即可绕过 GPT 系列毒性审核

    提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答

    arXiv
    2606.21077
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    gpt-4-turbo、gpt-4o、gpt-4o-mini 等 4 个

    摘要论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。

    深度解读完整解读
  4. 攻击arXiv 2510.10271

    MetaBreak：通过特殊 token 操纵越狱在线 LLM 服务

    提出 MetaBreak，用特殊 token 操纵越狱在线 LLM 服务并绕过审核

    arXiv
    2510.10271
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama-3.3-70B-Instruct、Qwen-2.5-72B-Instruct、Gemma-2-27B-Instruct 等 10 个

    摘要利用特殊 token 注入对抗平台模板包裹与审核，多场景验证了越狱有效性与互补性。

    深度解读完整解读
已经到底了