跳到正文
10月9日 · 周五

全部论文

找到 8 篇
筛选5

攻击类型

越狱15提示注入7投毒与后门5模型篡改3提取与窃取1检测规避7恶意使用1

攻击技术

梯度与表征优化4自动化搜索2多轮渐进1编码与混淆5角色扮演与说服2对话结构操控0推理链操控1针对防御9潜伏触发2

防御类型

检测与过滤1

影响

有害内容1数据与隐私泄露1输出被操纵5

系统形态

模型与 API5LLM 应用1AI Agent2多智能体1

攻击者权限

黑盒2白盒1

攻击面/入口

用户输入5Agent 间消息1图像与音视频3训练数据1

层

提示层4模型层3应用层1

系统组件

护栏与评审3视觉1多模态1

被测模型厂商

其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 433 篇还没打标签，不在筛选结果里。
攻击类型：检测规避攻击类型：恶意使用攻击技术：梯度与表征优化攻击技术：编码与混淆攻击技术：对话结构操控清除全部

另有 433 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2606.09700

    研究者提出 HPAA 攻击：用排版视觉线索绕过 13 个内容审核系统

    提出 HPAA 攻击，用排版视觉线索绕过内容审核系统

    arXiv
    2606.09700
    发表
    层
    提示层
    场景
    LLM 应用
    攻击者
    黑盒
    测试
    Llama-Guard-3-8B、Perspective API、ShieldGemma-2B 等 13 个
    摘要揭示了排版视觉线索与分词差异带来的审核盲区，HPAA 以极低查询实现近乎完全规避。

    这篇论文研究了人类视觉感知与大模型分词处理机制之间的差异所导致的内容审核漏洞。

    深度解读完整解读
  4. 评测与基准arXiv 2607.19855

    研究者提出最小范数攻击集成，用鲁棒性曲线替代单一 ε 评测

    提出最小范数攻击集成，用鲁棒性曲线评测图像分类器

    arXiv
    2607.19855
    发表
    层
    提示层
    场景
    模型与 API
    测试
    C1–C20（CIFAR-10，Table 1）、I1–I10（ImageNet，Table 1）
    摘要预算可控的最小范数集成用 AOI 逼近攻击前沿，DOI 给出不依赖单一ε的防御排序。

    这篇工作把对抗鲁棒评测从单一 ε、固定集成，改成可按查询预算收紧的曲线估计。

    深度解读完整解读
  5. 评测与基准arXiv 2609.05843

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    arXiv
    2609.05843
    发表
    层
    提示层
    场景
    模型与 API
    测试
    GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  6. 攻击arXiv 2610.01768

    LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

    提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传

    arXiv
    2610.01768
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Meta-Llama-3.3-70B-Instruct、Meta-Llama-4-Scout-17B-16E-Instruct、Meta-Llama-3.1-8B-Instruct 等 15 个
    摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。

    LLMLeak 研究一种隐蔽外传：本地恶意软件已拿到机密，却因为网络限制或监控不能直接连接攻击者，于是把秘密放进看起来像排障文档的 URL，让良性聊天机器人的网页抓取工具在访问时把秘密带出去。

    深度解读完整解读
已经到底了