跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 7 篇
筛选4

攻击类型

越狱1提示注入1投毒与后门1模型篡改1提取与窃取1恶意使用1

模型自身风险

拒答失当1幻觉与编造1

防御类型

模型加固4推理时干预4指令与数据隔离1权限与审批1监控与审计3

影响

有害内容3越权操作1数据与隐私泄露2

系统形态

模型与 API6AI Agent1编程 Agent1

攻击者权限

白盒1

攻击面/入口

用户输入3工具与技能描述1图像与音视频1权重与梯度1分发渠道1

层

模型层6应用层1

系统组件

MCP 与技能1监控器2推理链1微调与开源权重1音频1多模态1

被测模型厂商

Google6其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 60 篇还没打标签，不在筛选结果里。
防御类型：推理时干预防御类型：监控与审计层：模型层层：应用层话题：开源模型安全清除全部

另有 60 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2608.30703

    SingProbe 发布开源内在护栏框架，适配 29 个开源模型

    提出内生护栏 SingProbe，复用解码隐状态监测查询意图、回复安全与幻觉

    arXiv
    2608.30703
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Ling-3.0-tiny-singprobe、Ling-3.0-flash-singprobe、Gemini 3 Pro 等 14 个
    摘要SingProbe 用轻量内生探针做生成时三类监测，并给出流式基准与低开销服务接入。

    SingProbe 是面向生成时监测的开源内生护栏：复用基座解码隐状态，而不是另起模型反复编码文本。

    深度解读完整解读
  2. 防御arXiv 2608.21101

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出 ClawSentry 渐进式多层监控网关，拦截恶意技能包与上下文注入

    arXiv
    2608.21101
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    深度解读完整解读
  3. 防御arXiv 2609.27399

    GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

    提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

    arXiv
    2609.27399
    发表
    层
    模型层
    场景
    模型与 API
    测试
    CosyVoice2-0.5B、F5-TTS、FireRedTTS
    摘要GUARD 用门控激活转向把退出说话人推向冒充相似度，以抑制再识别并保住音质。

    GUARD 用门控激活转向做说话人身份遗忘，使零样本 TTS 对退出说话人难以再识别。

    深度解读完整解读
  7. 可解释性arXiv 2608.11227

    研究：激活引导的副作用可在引导前预测

    用未转向表征的传播映射预测激活转向副作用

    arXiv
    2608.11227
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Gemma-3-4B、Gemma-3-12B、Qwen2.5-7B
    摘要交叉效应矩阵显示副作用有结构且不对称，并可在转向前由传播映射预测方向。

    激活转向的副作用可以在施加之前预测，而不必先把每个行为都转向一遍。。

    深度解读完整解读
已经到底了