跳到正文
10月9日 · 周五

全部论文

找到 72 篇
筛选4

攻击类型

越狱40提示注入3投毒与后门2提取与窃取3检测规避6拒绝服务1恶意使用2

攻击技术

梯度与表征优化6自动化搜索12多轮渐进4编码与混淆8角色扮演与说服6对话结构操控2推理链操控6跨模态载荷5侧信道1针对防御4潜伏触发1

模型自身风险

欺骗与谋划1失准与价值偏离1拒答失当3

防御类型

推理时干预1检测与过滤11指令与数据隔离2

影响

有害内容38数据与隐私泄露7输出被操纵12可用性与可靠性1监督失效3

系统形态

模型与 API71LLM 应用5AI Agent3编程 Agent1具身与机器人1

攻击者权限

黑盒23灰盒1白盒3

攻击面/入口

用户输入52工具返回1代码仓库与依赖1图像与音视频13训练数据3推理服务与硬件3

层

提示层64模型层223应用层81训练与数据层126基础设施层8

系统组件

RAG1护栏与评审25监控器2推理链7微调与开源权重2视觉12视频2图像生成6多模态20

被测模型厂商

OpenAI41Google39Qwen（阿里）34Meta28Anthropic21DeepSeek20Mistral11智谱 GLM8Kimi（月之暗面）6Microsoft6xAI5其他38
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 558 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent层：提示层层：基础设施层清除全部

另有 558 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2606.21077

    OTTER：仅替换五个 token 即可绕过 GPT 系列毒性审核

    提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答

    arXiv
    2606.21077
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    gpt-4-turbo、gpt-4o、gpt-4o-mini 等 4 个

    摘要论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。

    深度解读完整解读
  2. 攻击arXiv 2610.09027

    P-VMI：对抗图像经 KV cache 持续影响多轮对话

    提出持久视觉记忆注入，使对抗图像经缓存在触发时操控输出

    arXiv
    2610.09027
    发表
    层
    基础设施层
    场景
    模型与 API
    测试
    Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B 等 4 个

    摘要论文提出 P-VMI，证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型，强调了保留状态的安全风险。

    深度解读完整解读
  5. 攻击arXiv 2610.06848

    TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

    提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

    arXiv
    2610.06848
    发表
    层
    基础设施层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个

    摘要TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。

    深度解读完整解读
  7. 攻击arXiv 2607.23496

    Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景

    提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景

    arXiv
    2607.23496
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    测试
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 10 个

    摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。

    深度解读完整解读
  8. 评测与基准arXiv 2607.19855

    研究者提出最小范数攻击集成，用鲁棒性曲线替代单一 ε 评测

    提出最小范数攻击集成，用鲁棒性曲线评测图像分类器

    arXiv
    2607.19855
    发表
    层
    提示层
    场景
    模型与 API
    测试
    C1–C20（CIFAR-10，Table 1）、I1–I10（ImageNet，Table 1）
    摘要预算可控的最小范数集成用 AOI 逼近攻击前沿，DOI 给出不依赖单一ε的防御排序。

    这篇工作把对抗鲁棒评测从单一 ε、固定集成，改成可按查询预算收紧的曲线估计。

    深度解读完整解读
  10. 评测与基准arXiv 2608.08542

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    提出 SkillSafe-Bench，评测技能合并模型的自适应越狱鲁棒性

    arXiv
    2608.08542
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    深度解读完整解读
  11. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

    arXiv
    2608.09867
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  12. 防御arXiv 2609.05797

    论文发现安全监控器主要拦截模型本就会拒答的请求

    评估安全监视器并提出双侧梯级微调以减少会答有害请求的漏检

    arXiv
    2609.05797
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Gemma-4-31B-IT、Qwen3-32B、Llama Guard 3 8B 等 6 个

    摘要论文发现安全监视器大多拦截模型已拒答请求，指出明确度偏差是共性原因，并通过双侧梯级微调提升回答请求的召回表现。

    深度解读完整解读
  13. 其他arXiv 2610.01539

    研究者提出 AI 评估沙盒配置器，支持欧盟 AI 法案下的技术评估

    提出 AI 评估沙盒配置器，支撑监管沙盒多方技术评估与报告

    arXiv
    2610.01539
    发表
    层
    基础设施层
    场景
    模型与 API
    测试
    LLM-backed conversational assistant
    摘要框架把每次技术测试配成沙盒。

    AI Assessment Sandbox Configurator是面向欧盟 AIRS 中结构化技术测试的开源配置框架，用来按一次参与组装评估环境。

    深度解读完整解读
  17. 评测与基准arXiv 2609.24934

    谁的事实才算数？对 LLM 评测基准的文化响应性审计

    用六维 CR 量表审计 LLM 评测基准的文化响应性

    arXiv
    2609.24934
    发表
    层
    提示层
    场景
    模型与 API
    测试
    GPT-4.1-mini、GPT-5.6-Terra
    摘要审计认为两套基准把特定认识论写成事实与质量标准，并提出六条 CR 原则。

    作者用文化回应性评价审计 SimpleQA 和 Chatbot Arena，追问定义事实与质量的基准对谁有效。

    深度解读完整解读
  18. 评测与基准arXiv 2609.05843

    SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

    arXiv
    2609.05843
    发表
    层
    提示层
    场景
    模型与 API
    测试
    GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。

    SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  19. 防御arXiv 2607.13336

    TC-UAP：针对图像转视频与微调定制的通用视频保护方法

    提出 TC-UAP，用身份级多帧扰动保护视频免被定制复现身份

    arXiv
    2607.13336
    发表
    层
    提示层
    场景
    模型与 API
    测试
    LTX-2.3、Wan2.2-5B
    摘要TC-UAP 以可复用的时间一致扰动干扰两类定制共用的 VAE 隐空间。

    作者要解决的是：发布前如何给视频加不可见扰动，使片段既不能被拿去微调视频扩散模型，也不能被抽帧做 image-to-video。

    深度解读完整解读
  20. 攻击arXiv 2609.15989

    研究者提出 plan injection 攻击，可绕过思维链监控

    提出 plan injection 攻击，植入良性伪装计划以绕过思维链监视器

    arXiv
    2609.15989
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    灰盒
    测试
    Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个

    摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。

    深度解读完整解读
加载更多