跳到正文
10月12日 · 周一

全部论文

找到 15篇
筛选4
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 254篇还没打标签,不在筛选结果里。

另有254篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.12644

    癌变式后门攻击:借助不可见 token 与阶段控制器实现渐进激活

    提出 Cancerous 后门,用不可见阶段 token 分阶段腐蚀推理

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理,作者认为只看答案会漏掉它。

    Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。

    深度解读完整解读
  2. 攻击arXiv 2610.04985

    研究揭示 Jev 作为应用决策层的安全与隐私风险

    评估应用决策层的输入注入与隐私推断风险

    发表
    攻击者
    黑盒、灰盒
    被测模型
    Jev、NanoJev
    摘要Jev 的类型化决策可被输入与训练操纵,也会泄露信息,并同时支持检测与滥用。

    Jev 是 TypeSafe 的 System One 模型,把应用 state 和固定问题变成 Choice、Noul 或 Score 的类型化决策与概率。作者用官方 API 和可改训练的 NanoJev,考察它作为决策层时的操纵、泄露与双重用途。

    深度解读完整解读
  3. 攻击arXiv 2609.36956

    研究者提出 Controlled Decoding Attacks,通过纯文本接口越狱黑盒 LLM

    提出 BLINDBIAS,通过纯文本续写与前缀控制越狱黑盒模型

    发表
    攻击者
    黑盒
    被测模型
    GLM-5、Gemini-3.5-Flash、Qwen3-32B 等4个
    摘要作者认为,隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。

    BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架,研究没有目标数值概率时,采样能否支持逐步控制。

    深度解读完整解读
  4. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入,清空工具 Agent 的思维链以绕过推理监控

    发表
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过,且工具执行受解析器宽容度影响。

    深度解读完整解读
  5. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放,诱导弱模型逐字转写专有推理链

    发表
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等13个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞,提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  6. 攻击arXiv 2607.14493

    LogInject 框架披露 LLM 日志分析中的被动提示注入

    提出 LogInject 框架,评测日志分析中的被动提示注入及缓解

    发表
    被测模型
    GPT-4o、Claude 3.5 Sonnet、Llama-3-70B-Instruct

    摘要论文评估了 LLM 日志分析中的上下文污染风险,提出分片拼接等攻击与三层防御,指出必须结合架构隔离与人工介入。

    深度解读完整解读
  7. 攻击arXiv 2510.10271

    MetaBreak:通过特殊 token 操纵越狱在线 LLM 服务

    提出 MetaBreak,用特殊 token 操纵越狱在线 LLM 服务并绕过审核

    发表
    攻击者
    黑盒
    被测模型
    Llama-3.3-70B-Instruct、Qwen-2.5-72B-Instruct、Gemma-2-27B-Instruct 等10个

    摘要利用特殊 token 注入对抗平台模板包裹与审核,多场景验证了越狱有效性与互补性。

    深度解读完整解读
  8. 攻击arXiv 2509.25624

    STAC:看似无害的工具调用链如何攻破 LLM Agent

    提出 STAC 框架,把恶意目标拆成多轮看似无害的工具调用链

    发表
    场景
    AI Agent
    攻击者
    黑盒
    被测模型
    GPT-4.1-2025-04-14、GPT-4.1-mini-2025-04-14、Qwen3-32B 等8个

    摘要作者提出并验证了智能体在序列化工具攻击下的普遍脆弱性,指出针对累积动作序列防御的必要性。

    深度解读完整解读
已经到底了