跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选4

攻击类型

越狱11提示注入53投毒与后门23提取与窃取5检测规避3拒绝服务1恶意使用4

攻击技术

多轮渐进1编码与混淆1

模型自身风险

危险能力1

防御类型

监控与审计1

影响

数据与隐私泄露2监督失效1滥用能力提升1

系统形态

AI Agent4编程 Agent1多智能体1

攻击者权限

黑盒1

攻击面/入口

用户输入4

层

提示层2模型层1应用层4训练与数据层1

系统组件

监控器1

被测模型厂商

OpenAI9Qwen（阿里）9Anthropic7DeepSeek5其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 540 篇还没打标签，不在筛选结果里。
攻击类型：恶意使用层：应用层被测模型厂商：Google被测模型厂商：Microsoft清除全部

另有 540 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2610.01768

    LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

    提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传

    arXiv
    2610.01768
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Microsoft-Phi-4-mini-instruct、Gemini、Meta-Llama-3.3-70B-Instruct 等 15 个
    摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。

    LLMLeak 研究一种隐蔽外传：本地恶意软件已拿到机密，却因为网络限制或监控不能直接连接攻击者，于是把秘密放进看起来像排障文档的 URL，让良性聊天机器人的网页抓取工具在访问时把秘密带出去。

    深度解读完整解读
  3. 评测与基准arXiv 2609.06966

    Mole：面向前沿实验室 AI 智能体的内部威胁检测基准

    提出 MOLE 基准，评测监控器对智能体内部威胁的检出能力

    arXiv
    2609.06966
    发表
    层
    应用层
    场景
    多智能体
    测试
    Gemini 3.1 Pro Preview、GPT-5.3 Chat、GPT-5.5 等 15 个
    摘要MOLE 构建了智能体内部威胁检测基准，作者指出高漏检现状与推理痕迹的防御价值，并展示了监控策略优化空间。

    MOLE 是首个针对前沿 AI 实验室智能体内部威胁检测的开放基准，旨在评估在有限每日审查预算与日常研发业务背景下识别恶意账号的能力。。

    深度解读完整解读
  4. 攻击arXiv 2609.15383

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    arXiv
    2609.15383
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    Gemma-4-31B、Gemma-4-12B、GPT-5.5 等 7 个

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    深度解读完整解读
已经到底了