跳到正文
10月8日 · 周四

Anthropic · 论文

找到 2 篇
筛选2

攻击类型

越狱4提示注入4投毒与后门3提取与窃取2检测规避1恶意使用1

攻击技术

多轮渐进1角色扮演与说服1针对防御1

模型自身风险

危险能力1

影响

输出被操纵1滥用能力提升1

系统形态

模型与 API1AI Agent1编程 Agent1

攻击者权限

黑盒2无盒1

攻击面/入口

用户输入2

层

提示层1应用层1

系统组件

护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 17 篇还没打标签，不在筛选结果里。
攻击类型：检测规避攻击类型：恶意使用话题：Anthropic清除全部

另有 17 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv:2609.08236 ·

    研究：内容不变的风格包装可翻转 LLM 安全评判器的判定

    提出内容不变样式包装，翻转安全评审器的判定

    模型与 API攻击者无盒黑盒测试Keyword (rulebased)、GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject) 等 12 个提示层
    摘要论文揭示特定安全评审器易受保持内容不变的外层包装诱导改变判定，并指出安全评估应将判定稳定性作为重要考量指标。

    这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。

    完整解读
  2. 攻击arXiv:2609.15383 ·

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    编程 Agent攻击者黑盒测试GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个应用层

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    完整解读
已经到底了