跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 10 篇
筛选4

攻击类型

越狱2投毒与后门2模型篡改3提取与窃取1检测规避1拒绝服务1

攻击技术

梯度与表征优化4自动化搜索1编码与混淆1推理链操控1跨模态载荷1针对防御2潜伏触发1

防御类型

指令与数据隔离1权限与审批1

影响

有害内容4数据与隐私泄露1输出被操纵2可用性与可靠性1监督失效1

系统形态

模型与 API8LLM 应用1AI Agent2编程 Agent0多智能体1

攻击者权限

黑盒2灰盒1白盒4

攻击面/入口

用户输入2Agent 间消息1图像与音视频2训练数据2权重与梯度4推理服务与硬件2

层

提示层2模型层4训练与数据层3基础设施层1

系统组件

护栏与评审1推理链1微调与开源权重3视觉1音频1图像生成1多模态3

被测模型厂商

Qwen（阿里）6其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 60 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：LLM 应用系统形态：编程 Agent系统形态：多智能体话题：开源模型安全清除全部

另有 60 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    灰盒
    测试
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  3. 攻击arXiv 2610.01367

    研究：高质量数据筛选挡不住投毒

    提出 Bi-QSTO，优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本

    arXiv
    2610.01367
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Llama2-7B-Chat、Llama3-8B-Instruct、Qwen2-7B-Instruct 等 5 个
    摘要质量筛选挡不住部分高分样本的安全削弱。

    Bi-QSTO 研究一个实际训练缺口：基于质量的数据选择会先于微调决定样本去留，而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验：选择能否排除毒样本。

    深度解读完整解读
  6. 攻击arXiv 2609.10117

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    提出 Collapse，从端侧混淆暴露视图抽取高效用替代模型

    arXiv
    2609.10117
    发表
    层
    模型层
    场景
    模型与 API
    测试
    BERT-Base、ViT-Base、Qwen2.5-0.5B 等 4 个
    摘要Oprior 是四原语复合的安全边界，Collapse 利用列方向泄漏抽取替代模型，Oext 只被同一攻击评测。

    这篇工作用代数原语统一若干 TEE 卸载混淆，给出该族的典范边界，再说明该边界挡不住一种分阶段模型抽取。。

    深度解读完整解读
已经到底了