跳到正文
10月9日 · 周五

全部论文

找到 20 篇
筛选5

攻击类型

提示注入7投毒与后门5检测规避3

攻击技术

自动化搜索2编码与混淆1角色扮演与说服1对话结构操控1潜伏触发2诱导选用1

模型自身风险

失准与价值偏离1幻觉与编造1

防御类型

模型加固1检测与过滤5指令与数据隔离1

影响

有害内容4越权操作25数据与隐私泄露17输出被操纵20可用性与可靠性5监督失效18滥用能力提升5

系统形态

模型与 API1LLM 应用14AI Agent41编程 Agent5网页与电脑操作3多智能体10

攻击者权限

黑盒2白盒2

攻击面/入口

网页与界面2文档与消息5工具返回2工具与技能描述1代码仓库与依赖1检索语料6图像与音视频1训练数据1分发渠道1

层

提示层13模型层45应用层20训练与数据层25基础设施层1

系统组件

MCP 与技能1记忆1RAG4护栏与评审6图像生成1多模态1

被测模型厂商

OpenAI13Anthropic10Qwen（阿里）10Google7DeepSeek6Meta6其他15
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 558 篇还没打标签，不在筛选结果里。
影响：输出被操纵系统形态：模型与 API系统形态：LLM 应用系统形态：编程 Agent层：应用层清除全部

另有 558 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.14493

    LogInject 框架披露 LLM 日志分析中的被动提示注入

    提出 LogInject 框架，评测日志分析中的被动提示注入及缓解

    arXiv
    2607.14493
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    GPT-4o、Claude 3.5 Sonnet、Llama-3-70B-Instruct

    摘要论文评估了 LLM 日志分析中的上下文污染风险，提出分片拼接等攻击与三层防御，指出必须结合架构隔离与人工介入。

    深度解读完整解读
  3. 防御arXiv 2610.05870

    MBZUAI 提出可校准的真实图像认证方法

    提出校准重合成方法，以生成器反演保真度认证真实图像并防御对抗扰动

    arXiv
    2610.05870
    发表
    层
    应用层
    场景
    LLM 应用
    攻击者
    白盒
    测试
    SD2.1、SD3、SD3.5 等 10 个

    摘要论文提出基于反演保真度与阈值校准的健全认证框架，在对抗扰动下维持错误率界限，并指出真实内容可认证性随生成器演进而萎缩。

    深度解读完整解读
  5. 防御arXiv 2609.08394

    Windows 恶意软件检测器作为复合 AI 系统：准确率、效率与对抗鲁棒性的权衡

    提出 OBELISK 三级流水线，权衡恶意软件检测的准确率、开销与鲁棒性

    arXiv
    2609.08394
    发表
    层
    应用层
    场景
    LLM 应用
    攻击者
    白盒、黑盒
    测试
    GBDT-ALL、GBDT-YARA、NEBULA-ALL 等 5 个
    摘要三级过滤以不大的检测损失换速度，同一机制扩大攻击面，部署应按约束选配置。

    OBELISK 把 Windows PE 恶意软件检测做成 YARA、EMBER-GBDT 与 Nebula 的顺序流水线，用来同时看检出、计算开销和对抗鲁棒性。

    深度解读完整解读
  6. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名称抢注攻击，利用智能体虚构技能名实施供应链劫持

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  7. 攻击arXiv 2609.19722

    ALIBI：向二进制注入虚假安全叙事可让 LLM 恶意软件分析器误判

    提出 ALIBI，向恶意二进制注入不执行掩护叙事使分析器误判为良性

    arXiv
    2609.19722
    发表
    层
    应用层
    场景
    LLM 应用
    攻击者
    黑盒
    测试
    Gemini 2.5 Pro、GPT-5.5 Pro、Claude Opus 4.7 等 4 个
    摘要ALIBI 用二进制内的掩护叙事重释可疑静态证据，Gemini 上翻转多，另两模型主要为降级。

    ALIBI 是针对 LLM 恶意软件分诊的语义掩护叙事攻击：不覆盖系统指令，而把仍可见的可疑静态证据重释成良性安全产品的预期行为。

    深度解读完整解读
  8. 其他arXiv 2607.21317

    研究称全球南方 AI 审计远落后于部署，十年仅不足二十例已部署系统审计

    论证全球南方已部署 AI 系统的独立审计远落后于部署

    arXiv
    2607.21317
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Robot Laura、national child-welfare risk model (Southern Cone, anonymized)、national public employment matching algorithm (Latin America, anonymized) 等 4 个
    摘要作者用自身委托记录评估缺口和四类模式，并主张资助方把独立评估写成用款条件。

    Eticas 的立场是：全球南方的 AI 已经进入公共系统，独立评估还没有成为义务，先能动的是出资方。

    深度解读完整解读
  9. 评测与基准arXiv 2609.31342

    研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

    评测 RAG 中过期文档推翻模型原本正确回答的现象

    arXiv
    2609.31342
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    GPT-4o、GPT-4.1、Claude-Opus-4.5 等 13 个
    摘要论文评测了陈旧检索推翻正确知识的中毒现象，并分析了其内部机制与防御局限。

    这篇论文是对检索增强生成（RAG）中“陈旧文档中毒”现象的实证与机理评估研究。

    深度解读完整解读
  11. 评测与基准arXiv 2609.02316

    Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

    构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

    arXiv
    2609.02316
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个

    摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。

    深度解读完整解读
  13. 攻击arXiv 2609.02774

    CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

    提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞

    arXiv
    2609.02774
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个

    摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。

    深度解读完整解读
  14. 攻击arXiv 2609.17817

    论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

    提出基准投毒攻击，使自修改编码智能体跨代写出漏洞代码

    arXiv
    2609.17817
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 6 个

    摘要论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。

    深度解读完整解读
  15. 攻击arXiv 2609.28613

    研究：提示注入可改变 Jev 决策模型的行动概率

    测量间接提示注入对类型化概率决策的动作劫持

    arXiv
    2609.28613
    发表
    层
    应用层
    场景
    模型与 API
    测试
    jev-1.13.0
    摘要封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。

    作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。

    深度解读完整解读
  17. 防御arXiv 2609.11085

    超越求解器判定：面向自动形式化的生成式奖励模型

    提出 GenV，检测求解器判定无法区分的不忠实形式化

    arXiv
    2609.11085
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    GenV+HN、GenV、27B LM (LoRA) 等 15 个
    摘要GenV+HN 用离线 Z3 等价标签训练无参考 Yes/No 分数，用来标记 VPU 并分配测试时计算。

    GenV+HN 针对神经符号翻译之后、求解器证书之前的对应失败：编码可以与指定参考共享求解器判定，同时并不等价。

    深度解读完整解读
  18. 评测与基准arXiv 2609.39578

    Box² Bench：语言模型能否有选择地依赖外部指导

    提出 Box2-Bench，评测模型能否选择性依赖外部工作流

    arXiv
    2609.39578
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Gemini 3.7 Flash、DeepSeek V4 Flash、GLM 5.2 等 9 个
    摘要Box2 把利用与稳健拆开。

    Box2-Bench 固定任务与模型，只改变工作流可靠性，用来衡量模型能否选择性依赖可能出错的外部指导。

    深度解读完整解读
  19. 评测与基准arXiv 2608.28411

    LongPIBench：面向长上下文提示注入的评测基准

    提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

    arXiv
    2608.28411
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、Apertus-8B-Instruct 等 11 个

    摘要论文构建长文本提示注入基准 LongPIBench，揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。

    深度解读完整解读
已经到底了