跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 5 篇
筛选2

攻击类型

越狱1提示注入3投毒与后门1

模型自身风险

拒答失当2幻觉与编造1

防御类型

模型加固2检测与过滤2指令与数据隔离1权限与审批1

影响

有害内容2越权操作1数据与隐私泄露1输出被操纵1

系统形态

模型与 API2AI Agent3编程 Agent1

攻击者权限

白盒1

攻击面/入口

用户输入1网页与界面1文档与消息1工具返回2工具与技能描述1分发渠道1

层

模型层2应用层3训练与数据层2基础设施层1

系统组件

MCP 与技能1护栏与评审1权限与沙箱1微调与开源权重1

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 90 篇还没打标签，不在筛选结果里。
层：模型层层：应用层话题：开源模型安全清除全部

另有 90 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2608.08542 ·

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御

    模型与 API攻击者白盒测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    完整解读
  3. 防御arXiv:2608.30703 ·

    SingProbe 发布开源内在护栏框架，适配 29 个开源模型

    提出内生护栏 SingProbe，复用解码隐状态监测查询意图、回复安全与幻觉

    模型与 API测试Ling-3.0-tiny-singprobe、Ling-3.0-flash-singprobe、Gemini 3 Pro 等 14 个模型层
    摘要SingProbe 用轻量内生探针做生成时三类监测，并给出流式基准与低开销服务接入。

    SingProbe 是面向生成时监测的开源内生护栏：复用基座解码隐状态，而不是另起模型反复编码文本。

    完整解读
  4. 防御arXiv:2608.21101 ·

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出多层监控网关 ClawSentry，拦截恶意技能供应链与上下文注入

    编程 Agent测试Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个应用层
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    完整解读
已经到底了