跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 4 篇
筛选4

攻击类型

提示注入2投毒与后门2模型篡改1

攻击技术

潜伏触发1

防御类型

模型加固1指令与数据隔离1权限与审批1监控与审计1

影响

有害内容10越权操作3数据与隐私泄露2输出被操纵5可用性与可靠性1滥用能力提升1

系统形态

模型与 API1AI Agent3编程 Agent1

攻击者权限

白盒1

攻击面/入口

用户输入1工具返回1工具与技能描述1训练数据1权重与梯度2分发渠道2

层

模型层1应用层2训练与数据层2

系统组件

MCP 与技能1监控器1微调与开源权重2

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 59 篇还没打标签，不在筛选结果里。
影响：越权操作影响：滥用能力提升层：应用层层：训练与数据层话题：开源模型安全清除全部

另有 59 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2608.21101

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出 ClawSentry 渐进式多层监控网关，拦截恶意技能包与上下文注入

    arXiv
    2608.21101
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    深度解读完整解读
  2. 防御arXiv 2609.39866

    研究者提出梯度封堵实现 LLM 发布前的预防性遗忘

    提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力

    arXiv
    2609.39866
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Llama-3.2-1B、Llama-3.2-3B、Llama-3.1-8B 等 7 个
    摘要GSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning（GSU）是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。

    深度解读完整解读
  3. 攻击arXiv 2609.14060

    AgentQ：针对 LLM Agent 的量化条件后门攻击

    提出 AGENTQ，向开源智能体权重植入仅在量化后触发的恶意工具后门

    arXiv
    2609.14060
    发表
    层
    训练与数据层
    场景
    AI Agent
    测试
    Qwen3.5-2B、Qwen3.5-4B、Qwen3.5-9B 等 6 个

    摘要论文研究了智能体量化条件后门风险，提出 AGENTQ 在保持效用的同时实现全精度隐蔽与量化后生效。

    深度解读完整解读
  4. 防御arXiv 2609.35932

    同字节不同权限：保留 token 表示如何放大聊天模板提示注入

    证明保留词元表示放大模板注入并验证分词缓解

    arXiv
    2609.35932
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen3-8B、Qwen3-32B、Llama-3.1-8B-Instruct 等 6 个

    摘要对话模板注入的权威性主要来自保留词元的学得向量而非文本语法，推理具有补偿作用，现有分词防御遗留工具协议漏洞。

    深度解读完整解读
已经到底了