跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 4 篇
筛选1

攻击类型

提示注入3投毒与后门1

模型自身风险

Agent 危险操作1

防御类型

模型加固2检测与过滤1指令与数据隔离1权限与审批1

影响

越权操作1数据与隐私泄露1输出被操纵2

系统形态

模型与 API6LLM 应用1AI Agent4编程 Agent2

攻击面/入口

网页与界面1文档与消息1工具返回2工具与技能描述1分发渠道1

层

应用层3训练与数据层1

系统组件

MCP 与技能1权限与沙箱1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 81 篇还没打标签，不在筛选结果里。
系统形态：AI Agent话题：开源模型安全清除全部

另有 81 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv:2608.21101 ·

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出多层监控网关 ClawSentry，拦截恶意技能供应链与上下文注入

    编程 Agent测试Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个应用层
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    完整解读
  3. 防御arXiv:2610.00850 ·

    AuraForge：为训练安全编码 Agent 扩展安全监督

    提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体

    编程 Agent测试Qwen3.5-4B、Muse Spark 1.3、DeepSeek-V4.1-Flash 等 11 个训练与数据层
    摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。

    完整解读
已经到底了