跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选6

攻击技术

梯度与表征优化2自动化搜索5编码与混淆3针对防御4潜伏触发3

影响

有害内容10输出被操纵5

系统形态

LLM 应用4

层

应用层3

系统组件

RAG1护栏与评审3视觉8嵌入1多模态12
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 216 篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：编码与混淆影响：输出被操纵系统组件：RAG系统组件：护栏与评审系统组件：嵌入清除全部

另有 216 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.05843

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    arXiv
    2609.05843
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  2. 攻击arXiv 2607.14493

    LogInject 框架披露 LLM 日志分析中的被动提示注入

    提出 LogInject 框架，评测日志分析中的被动提示注入及缓解

    arXiv
    2607.14493
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    GPT-4o、Claude 3.5 Sonnet、Llama-3-70B-Instruct

    摘要论文评估了 LLM 日志分析中的上下文污染风险，提出分片拼接等攻击与三层防御，指出必须结合架构隔离与人工介入。

    深度解读完整解读
  3. 攻击arXiv 2606.12716

    PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    arXiv
    2606.12716
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等 11 个
    摘要PaperGuard 测到提示注入与白盒视觉抬分，并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
  4. 攻击arXiv 2606.11265

    论文提出 CRCP 投毒框架，揭示 RAG 分块与重排序下的投毒失效问题

    提出 CRCP 框架，优化分块与重排下的 RAG 语料投毒

    arXiv
    2606.11265
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    GPT-4o、DeepSeek-R1、Qwen3-Max 等 11 个
    摘要CRCP 把投毒做成多阶段一致性问题。

    CRCP 研究的是带分块和重排的 RAG 语料投毒，而不是只提高文档级检索分数。

    深度解读完整解读
  5. 攻击arXiv 2606.09700

    研究者提出 HPAA 攻击：用排版视觉线索绕过 13 个内容审核系统

    提出 HPAA 攻击，用排版视觉线索绕过内容审核系统

    arXiv
    2606.09700
    发表
    层
    提示层
    场景
    LLM 应用
    攻击者
    黑盒
    被测模型
    Llama-Guard-3-8B、Perspective API、ShieldGemma-2B 等 13 个
    摘要揭示了排版视觉线索与分词差异带来的审核盲区，HPAA 以极低查询实现近乎完全规避。

    这篇论文研究了人类视觉感知与大模型分词处理机制之间的差异所导致的内容审核漏洞。

    深度解读完整解读
已经到底了