跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 5 篇
筛选4

攻击类型

越狱2投毒与后门1模型篡改5提取与窃取4检测规避3拒绝服务1恶意使用1

攻击技术

针对防御1

防御类型

模型加固1推理时干预2

影响

数据与隐私泄露5

系统形态

模型与 API5

攻击者权限

黑盒1白盒1

攻击面/入口

用户输入3图像与音视频1权重与梯度2

层

模型层4训练与数据层3基础设施层1

系统组件

推理链1微调与开源权重1音频1图像生成1多模态2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 45 篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取攻击类型：恶意使用层：模型层层：基础设施层话题：开源模型安全清除全部

另有 45 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.27399

    GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

    提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

    arXiv
    2609.27399
    发表
    层
    模型层
    场景
    模型与 API
    测试
    CosyVoice2-0.5B、F5-TTS、FireRedTTS
    摘要GUARD 用门控激活转向把退出说话人推向冒充相似度，以抑制再识别并保住音质。

    GUARD 用门控激活转向做说话人身份遗忘，使零样本 TTS 对退出说话人难以再识别。

    深度解读完整解读
  2. 攻击arXiv 2609.10117

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    提出 Collapse，从端侧混淆暴露视图抽取高效用替代模型

    arXiv
    2609.10117
    发表
    层
    模型层
    场景
    模型与 API
    测试
    BERT-Base、ViT-Base、Qwen2.5-0.5B 等 4 个
    摘要Oprior 是四原语复合的安全边界，Collapse 利用列方向泄漏抽取替代模型，Oext 只被同一攻击评测。

    这篇工作用代数原语统一若干 TEE 卸载混淆，给出该族的典范边界，再说明该边界挡不住一种分阶段模型抽取。。

    深度解读完整解读
已经到底了