跳到正文
10月9日 · 周五

开源模型安全 · 论文

找到 17 篇
筛选3

攻击类型

越狱6提示注入3投毒与后门1模型篡改1提取与窃取1拒绝服务1

攻击技术

梯度与表征优化3编码与混淆1推理链操控1跨模态载荷1

防御类型

模型加固1指令与数据隔离2权限与审批2监控与审计1

影响

有害内容7越权操作2数据与隐私泄露2输出被操纵2可用性与可靠性1

系统形态

模型与 API11LLM 应用1AI Agent5编程 Agent1多智能体1

攻击者权限

黑盒2白盒3

攻击面/入口

用户输入9网页与界面1文档与消息1工具返回2工具与技能描述1图像与音视频1权重与梯度1分发渠道1推理服务与硬件1

层

提示层8模型层30应用层5训练与数据层29基础设施层4

系统组件

MCP 与技能1护栏与评审2监控器1推理链2微调与开源权重1视觉1多模态1

被测模型厂商

Qwen（阿里）11Google8Meta8DeepSeek5其他13
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 46 篇还没打标签，不在筛选结果里。
层：提示层层：应用层层：基础设施层话题：开源模型安全清除全部

另有 46 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.07430

    研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

    arXiv
    2608.07430
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    测试
    Qwen2.5-7B-Instruct、LLaDA-8B-Instruct、Dream-Instruct-7B 等 15 个
    摘要论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。

    深度解读完整解读
  4. 攻击arXiv 2610.02302

    研究者提出意图隐藏越狱的信息论框架，分析组合式攻击

    提出组合式意图隐藏越狱，按先验后验匹配选择辅助任务

    arXiv
    2610.02302
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等 7 个
    摘要用信息论选含目标的任务组合，再看查询能否既隐藏意图又让目标被执行。

    这篇工作把组合式意图隐藏写成任务选择：有害目标必须留在 bundle 里，同时让估计的有害意图概率贴近全集先验，或降到阈值以下。

    深度解读完整解读
  5. 分析与理论arXiv 2610.03095

    研究：异构 AI 模型间的说服效果取决于配对而非模型规模

    量化异构模型在一次分歧交换后对分类判断的同伴影响

    arXiv
    2610.03095
    发表
    层
    应用层
    场景
    多智能体
    测试
    gemma-3-4b、gemma-3-27b、llama-3.1-8b 等 7 个
    摘要一次分歧交换就能大幅改判，且组合行为不能从个体属性外推。

    这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响，而不是评多智能体系统的整体基准分。

    深度解读完整解读
  7. 评测与基准arXiv 2608.08542

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    提出 SkillSafe-Bench，评测技能合并模型的自适应越狱鲁棒性

    arXiv
    2608.08542
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    深度解读完整解读
  10. 防御arXiv 2608.21101

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出 ClawSentry 渐进式多层监控网关，拦截恶意技能包与上下文注入

    arXiv
    2608.21101
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    深度解读完整解读
  14. 防御arXiv 2609.12378

    Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

    提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

    arXiv
    2609.12378
    发表
    层
    基础设施层
    场景
    模型与 API
    测试
    Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）
    摘要ODIN 用可复用的特征主序打包和联合误差预算，在单张 H100 上完成 Llama-3-8B 的 CKKS 推理。

    ODIN 是面向 Llama 的服务器侧 CKKS 推理系统：客户加密提示词，诚实但好奇的服务器用明文权重在密文上算完 Llama-3，只返回结果密文。

    深度解读完整解读
  17. 防御arXiv 2609.35932

    同字节不同权限：保留 token 表示如何放大聊天模板提示注入

    证明保留词元表示放大模板注入并验证分词缓解

    arXiv
    2609.35932
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen3-8B、Qwen3-32B、Llama-3.1-8B-Instruct 等 6 个

    摘要对话模板注入的权威性主要来自保留词元的学得向量而非文本语法，推理具有补偿作用，现有分词防御遗留工具协议漏洞。

    深度解读完整解读
已经到底了