跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选2

攻击类型

越狱5提示注入1投毒与后门1

攻击技术

多轮渐进2编码与混淆1角色扮演与说服1潜伏触发1

模型自身风险

拒答失当2

防御类型

模型加固1推理时干预1监控与审计1

影响

有害内容3越权操作1数据与隐私泄露1可用性与可靠性1

系统形态

模型与 API3AI Agent3编程 Agent1

攻击者权限

黑盒2白盒1无盒1

攻击面/入口

用户输入6文档与消息1工具返回1工具与技能描述1记忆写入3Agent 间消息1分发渠道1

层

提示层1模型层2应用层3

系统组件

记忆1护栏与评审1监控器1微调与开源权重1

被测模型厂商

OpenAI18Qwen（阿里）17Anthropic13Google13Meta12DeepSeek11Kimi（月之暗面）9Mistral6智谱 GLM5其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 989 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入被测模型厂商：Mistral清除全部

另有 989 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench 局部协议，评测激活补丁修复越狱的附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Mistral-7B-Instruct-v0.3、Ministral-3-14B-Instruct、Qwen2.5-3B-Instruct 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  2. 评测与基准arXiv 2610.07089

    研究者提出统一滥用监控基准，覆盖分解攻击与提示注入约 6200 条轨迹

    构建统一滥用监视基准，用危害窗口评测跨威胁动作监控

    arXiv
    2610.07089
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Mistral Small 3.2 24B、Gemma 4 26B-A4B、Qwen3.6 27B 等 12 个

    摘要统一智能体滥用监视框架，动作视角兼顾两类威胁但危害定位仍存瓶颈。

    深度解读完整解读
  3. 评测与基准arXiv 2610.04589

    StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

    用 StegoMemory 测试智能体持久记忆作为跨会话隐写信道的可行性

    arXiv
    2610.04589
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Mistral Large 2、Llama 3.1 405B、Claude 3.5 Sonnet 等 13 个

    摘要研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密，写入持久化是主要防御瓶颈，呼吁建立记忆完整性防御。

    深度解读完整解读
  4. 评测与基准arXiv 2608.08542

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御

    arXiv
    2608.08542
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Mistral-7B-Instruct-v0.3、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 6 个
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    深度解读完整解读
  5. 评测与基准arXiv 2609.09798

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    arXiv
    2609.09798
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、无盒
    测试
    Devstral-small-v2-24B、CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B 等 7 个

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    深度解读完整解读
已经到底了