跳到正文
10月8日 · 周四

红队 · 论文

找到 8 篇
筛选2

攻击类型

越狱3提示注入2投毒与后门1检测规避2恶意使用1

攻击技术

梯度与表征优化4自动化搜索12多轮渐进4编码与混淆5角色扮演与说服3对话结构操控1推理链操控2跨模态载荷5针对防御4潜伏触发4诱导选用1

模型自身风险

危险能力1

影响

有害内容3越权操作2数据与隐私泄露1输出被操纵1滥用能力提升1

系统形态

模型与 API3AI Agent5编程 Agent5

攻击者权限

黑盒4白盒1无盒2

攻击面/入口

用户输入5工具返回1工具与技能描述3分发渠道2

层

提示层3应用层5

系统组件

MCP 与技能3护栏与评审4

被测模型厂商

OpenAI8Qwen（阿里）7Anthropic6DeepSeek5Google5其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。
攻击技术：多轮渐进攻击技术：针对防御话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv:2609.39607 ·

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT，迭代改写技能文本以绕过扫描并执行木马行为

    编程 Agent攻击者白盒测试glm (z-ai/glm-5.1)、qwen3t (qwen/qwen3-235b-a22b-thinking-2507)、gpt-oss (openai/gpt-oss-120b) 等 4 个应用层
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    完整解读
  4. 攻击arXiv:2609.08236 ·

    研究：内容不变的风格包装可翻转 LLM 安全评判器的判定

    提出内容不变样式包装，翻转安全评审器的判定

    模型与 API攻击者无盒黑盒测试Keyword (rulebased)、GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject) 等 12 个提示层
    摘要论文揭示特定安全评审器易受保持内容不变的外层包装诱导改变判定，并指出安全评估应将判定稳定性作为重要考量指标。

    这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。

    完整解读
  5. 评测与基准arXiv:2609.09798 ·

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    编程 Agent攻击者黑盒无盒测试CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个应用层

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    完整解读
  6. 攻击arXiv:2609.15383 ·

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    编程 Agent攻击者黑盒测试GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个应用层

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    完整解读
已经到底了