跳到正文
10月8日 · 周四

红队 · 论文

找到 5 篇
筛选2

攻击类型

越狱1提示注入2投毒与后门1检测规避2

攻击技术

梯度与表征优化4自动化搜索12多轮渐进4编码与混淆5角色扮演与说服3对话结构操控1推理链操控2跨模态载荷5针对防御4潜伏触发4诱导选用1

影响

有害内容1越权操作2数据与隐私泄露1输出被操纵1

系统形态

模型与 API2AI Agent3编程 Agent3

攻击者权限

黑盒2白盒1无盒1

攻击面/入口

用户输入2工具返回1工具与技能描述3分发渠道2

层

提示层2应用层3

系统组件

MCP 与技能3护栏与评审3推理链1

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。
攻击技术：对话结构操控攻击技术：针对防御话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2609.39607 ·

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT，迭代改写技能文本以绕过扫描并执行木马行为

    编程 Agent攻击者白盒测试glm (z-ai/glm-5.1)、qwen3t (qwen/qwen3-235b-a22b-thinking-2507)、gpt-oss (openai/gpt-oss-120b) 等 4 个应用层
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    完整解读
  3. 攻击arXiv:2609.08236 ·

    研究：内容不变的风格包装可翻转 LLM 安全评判器的判定

    提出内容不变样式包装，翻转安全评审器的判定

    模型与 API攻击者无盒黑盒测试Keyword (rulebased)、GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject) 等 12 个提示层
    摘要论文揭示特定安全评审器易受保持内容不变的外层包装诱导改变判定，并指出安全评估应将判定稳定性作为重要考量指标。

    这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。

    完整解读
已经到底了