跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选5

攻击类型

越狱3检测规避1

攻击技术

多轮渐进2角色扮演与说服2

防御类型

检测与过滤1

影响

有害内容4越权操作25数据与隐私泄露17输出被操纵22可用性与可靠性5监督失效19滥用能力提升5

系统形态

模型与 API33LLM 应用2AI Agent10编程 Agent2网页与电脑操作1多智能体2具身与机器人1

攻击者权限

黑盒2无盒1

攻击面/入口

用户输入4

层

模型层0应用层4

系统组件

RAG1护栏与评审3

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 558 篇还没打标签，不在筛选结果里。
影响：有害内容系统形态：LLM 应用系统形态：编程 Agent层：模型层层：应用层清除全部

另有 558 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容

    arXiv
    2607.03968
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、无盒
    测试
    Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个

    摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。

    深度解读完整解读
  3. 评测与基准arXiv 2609.09798

    CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

    提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

    arXiv
    2609.09798
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个

    摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。

    深度解读完整解读
  4. 防御arXiv 2608.12361

    基于搜索增强 LLM 的中文新词毒性共识检测框架 SeTox

    提出 SeTox 检索增强框架，检测中文新词的隐性毒性

    arXiv
    2608.12361
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Perspective-API、Baidu-API、Tencent-API 等 14 个
    摘要SeTox 用检索把公共共识接入静态 LLM，以检测中文毒性新词。

    SeTox 研究中文新词上的隐性毒性检测：词表加检索增强，使静态 LLM 在不重训练的情况下利用公开网页上下文。

    深度解读完整解读
已经到底了