跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 11 篇
筛选4

攻击类型

越狱3提示注入1投毒与后门3模型篡改1提取与窃取1恶意使用1

攻击技术

梯度与表征优化2推理链操控1跨模态载荷1针对防御1潜伏触发1

模型自身风险

拒答失当1偏见与歧视1

防御类型

模型加固2推理时干预1权限与审批1监控与审计2

影响

有害内容5越权操作1数据与隐私泄露2输出被操纵3

系统形态

模型与 API10AI Agent1编程 Agent1

攻击者权限

黑盒2白盒3

攻击面/入口

用户输入5工具与技能描述1图像与音视频3训练数据2权重与梯度1分发渠道2

层

提示层3模型层4应用层1训练与数据层3

系统组件

MCP 与技能1护栏与评审2监控器2推理链4微调与开源权重17视觉3音频2图像生成2多模态7

被测模型厂商

Qwen（阿里）5其他11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 59 篇还没打标签，不在筛选结果里。
系统组件：护栏与评审系统组件：监控器系统组件：视觉系统组件：多模态话题：开源模型安全清除全部

另有 59 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv 2608.11816

    研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    arXiv
    2608.11816
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个
    摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。

    深度解读完整解读
  3. 防御arXiv 2608.21101

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出 ClawSentry 渐进式多层监控网关，拦截恶意技能包与上下文注入

    arXiv
    2608.21101
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    深度解读完整解读
  5. 防御arXiv 2609.27399

    GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

    提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

    arXiv
    2609.27399
    发表
    层
    模型层
    场景
    模型与 API
    测试
    CosyVoice2-0.5B、F5-TTS、FireRedTTS
    摘要GUARD 用门控激活转向把退出说话人推向冒充相似度，以抑制再识别并保住音质。

    GUARD 用门控激活转向做说话人身份遗忘，使零样本 TTS 对退出说话人难以再识别。

    深度解读完整解读
已经到底了