跳到正文
10月10日 · 周六

全部论文

找到 2 篇
筛选5

攻击技术

针对防御2潜伏触发3

攻击面/入口

用户输入2文档与消息0图像与音视频4训练数据6权重与梯度5

层

提示层7模型层1应用层11训练与数据层1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 196 篇还没打标签，不在筛选结果里。
攻击技术：针对防御攻击面/入口：用户输入攻击面/入口：文档与消息层：模型层层：训练与数据层清除全部

另有 196 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.07723

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    arXiv
    2610.07723
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    深度解读完整解读
  2. 攻击arXiv 2610.06670

    研究者提出 Reward Stealing Attack，从对齐模型行为反推安全奖励实施攻击

    提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转

    arXiv
    2610.06670
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒、灰盒
    被测模型
    Llama3.1-8B-Instruct、Gemma-7B-Instruct、Qwen2.5-7B-Instruct 等 9 个
    摘要ReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。

    ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。

    深度解读完整解读
已经到底了