跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 4 篇

另有 62 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导,在扩散语言模型去噪过程中注入定向偏见

    发表
    攻击者
    灰盒
    测试
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向,证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  2. 攻击arXiv 2608.29458

    Reference-Grafting 在提取沙袋行为隐藏能力上追平微调

    提出参考嫁接,在推理时用激活干预诱导出沙袋隐藏的能力

    发表
    攻击者
    白盒
    测试
    Qwen2.5-1.5B、Qwen2.5-3B、Qwen2.5-14B 等 15 个

    摘要提出参考嫁接在推理阶段以低成本匹配微调诱导效果,揭示隐瞒表征重叠与阈值门控机制。

    深度解读完整解读
已经到底了