跳到正文
10月8日 · 周四

红队 · 论文

找到 2 篇
筛选2

攻击类型

越狱1投毒与后门1

攻击技术

自动化搜索2多轮渐进1编码与混淆2角色扮演与说服1跨模态载荷2针对防御1潜伏触发1诱导选用2

影响

有害内容1越权操作1

系统形态

AI Agent2编程 Agent2

攻击者权限

黑盒1无盒1

攻击面/入口

用户输入2记忆写入1

层

应用层2

系统组件

记忆1护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。
攻击技术：角色扮演与说服攻击技术：潜伏触发话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2609.09798 ·

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    编程 Agent攻击者黑盒无盒测试CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个应用层

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    完整解读
已经到底了