跳到正文
10月8日 · 周四

危险能力 · 论文

找到 2 篇
筛选2

攻击类型

越狱1恶意使用1

攻击技术

多轮渐进2角色扮演与说服1

模型自身风险

危险能力1

影响

有害内容1滥用能力提升1

系统形态

模型与 API2AI Agent2编程 Agent2

攻击者权限

黑盒2无盒1

攻击面/入口

用户输入2

层

应用层2

系统组件

护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 37 篇还没打标签，不在筛选结果里。
系统形态：AI Agent系统形态：编程 Agent话题：危险能力清除全部

另有 37 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2609.09798 ·

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    编程 Agent攻击者黑盒无盒测试CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个应用层

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    完整解读
  2. 攻击arXiv:2609.15383 ·

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    编程 Agent攻击者黑盒测试GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个应用层

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    完整解读
已经到底了