跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选3

攻击类型

越狱1投毒与后门1模型篡改3提取与窃取2

攻击技术

梯度与表征优化1潜伏触发1诱导选用1

防御类型

模型加固2

影响

有害内容2数据与隐私泄露2

系统形态

模型与 API4AI Agent1

攻击者权限

黑盒2白盒3

攻击面/入口

用户输入17网页与界面4文档与消息2工具返回2工具与技能描述2代码仓库与依赖1检索语料3记忆写入1Agent 间消息2图像与音视频3训练数据1权重与梯度4分发渠道2

层

提示层1应用层1训练与数据层3

系统组件

记忆1微调与开源权重2

被测模型厂商

Qwen（阿里）37OpenAI27Google25Meta21DeepSeek18Anthropic15Mistral12智谱 GLM8xAI5MiniMax5Microsoft5其他29
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 489 篇还没打标签，不在筛选结果里。
攻击面/入口：记忆写入攻击面/入口：权重与梯度被测模型厂商：Microsoft清除全部

另有 489 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.07430

    研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

    arXiv
    2608.07430
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    测试
    Phi-3-Mini-4K-Instruct、Qwen2.5-7B-Instruct、LLaDA-8B-Instruct 等 15 个
    摘要论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。

    深度解读完整解读
  4. 防御arXiv 2610.00320收录

    研究显示少样本微调可绕过安全层局部冻结与修复防御

    检验层冻结与奇异方向截断能否挡住少样本有害微调

    arXiv
    2610.00320
    收录
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Phi-3-mini-4k、Llama-3.1-8B-Instruct、Llama-3.1-Tulu-3-8B-DPO 等 10 个
    摘要定位与恢复可以复现，但知情攻击能把损伤移出冻结带，并打败跨检查点的截断修复。

    这篇工作检验：把拒答定位到某些层或更新方向之后，能不能在攻击者知情时还守住拒答。。

    深度解读完整解读
已经到底了