跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选3

攻击类型

越狱3提示注入1提取与窃取2检测规避1

攻击技术

梯度与表征优化2自动化搜索15多轮渐进4编码与混淆5角色扮演与说服5对话结构操控2推理链操控5跨模态载荷3侧信道1针对防御3潜伏触发1诱导选用1

影响

有害内容3数据与隐私泄露2监督失效1

系统形态

模型与 API6

攻击者权限

黑盒6白盒1

攻击面/入口

用户输入5代码仓库与依赖1推理服务与硬件1

层

提示层5基础设施层1

系统组件

护栏与评审2监控器1推理链5

被测模型厂商

OpenAI5Anthropic5其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 725 篇还没打标签，不在筛选结果里。
攻击技术：推理链操控攻击技术：侧信道攻击者权限：黑盒清除全部

另有 725 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.06848

    TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

    提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

    arXiv
    2610.06848
    发表
    层
    基础设施层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个

    摘要TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。

    深度解读完整解读
  2. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

    arXiv
    2608.09867
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  3. 攻击arXiv 2609.15989

    研究者提出 plan injection 攻击，可绕过思维链监控

    提出计划注入攻击，植入良性表述的有害计划以逃避思维链监控

    arXiv
    2609.15989
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个

    摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。

    深度解读完整解读
  5. 攻击arXiv 2609.09553

    研究：任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱，无需微调即可诱导有害输出

    arXiv
    2609.09553
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等 7 个

    摘要前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。

    深度解读完整解读
已经到底了