跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选5

攻击类型

越狱1提示注入16投毒与后门19提取与窃取1检测规避1恶意使用1

攻击技术

梯度与表征优化1自动化搜索4多轮渐进5编码与混淆1角色扮演与说服2跨模态载荷1潜伏触发1诱导选用1

影响

数据与隐私泄露2

系统形态

AI Agent2

攻击面/入口

用户输入2记忆写入1

层

提示层7应用层2

系统组件

记忆1护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 434 篇还没打标签，不在筛选结果里。
攻击类型：越狱攻击类型：恶意使用攻击技术：编码与混淆攻击技术：潜伏触发层：应用层清除全部

另有 434 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD，跨会话拆解有害目标以绕过工具智能体本地监控

    arXiv
    2606.09084
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4.1、GPT-5-nano、Claude-3.5-Sonnet 等 6 个
    摘要CFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。

    深度解读完整解读
  2. 攻击arXiv 2610.01768

    LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

    提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传

    arXiv
    2610.01768
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Meta-Llama-3.3-70B-Instruct、Meta-Llama-4-Scout-17B-16E-Instruct、Meta-Llama-3.1-8B-Instruct 等 15 个
    摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。

    LLMLeak 研究一种隐蔽外传：本地恶意软件已拿到机密，却因为网络限制或监控不能直接连接攻击者，于是把秘密放进看起来像排障文档的 URL，让良性聊天机器人的网页抓取工具在访问时把秘密带出去。

    深度解读完整解读
已经到底了