跳到正文
10月12日 · 周一

全部论文

找到 10篇
筛选4
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 233篇还没打标签,不在筛选结果里。

另有233篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.12644

    癌变式后门攻击:借助不可见 token 与阶段控制器实现渐进激活

    提出 Cancerous 后门,用不可见阶段 token 分阶段腐蚀推理

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理,作者认为只看答案会漏掉它。

    Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。

    深度解读完整解读
  2. 评测与基准arXiv 2609.36849

    研究评估 GradSafe 在多轮对话中的越狱检测脆弱性

    评测多轮对话中 GradSafe 越狱检测的可分性与脆弱性

    发表
    被测模型
    Llama 3.1 8B Instruct、Qwen2.5-7B-Instruct
    摘要CWS 显示不安全梯度在真实多轮流量中变弱,且随攻击族和模型而变。

    作者评估梯度越狱检测从单条提示词迁到多轮对话后还剩多少可分性,方法是用 Context Window Scanner 把 GradSafe 原封不动地套到用户轮窗口上。

    深度解读完整解读
  3. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入,清空工具 Agent 的思维链以绕过推理监控

    发表
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过,且工具执行受解析器宽容度影响。

    深度解读完整解读
  4. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放,诱导弱模型逐字转写专有推理链

    发表
    攻击者
    黑盒
    被测模型
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等13个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞,提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  5. 攻击arXiv 2607.14493

    LogInject 框架披露 LLM 日志分析中的被动提示注入

    提出 LogInject 框架,评测日志分析中的被动提示注入及缓解

    发表
    被测模型
    GPT-4o、Claude 3.5 Sonnet、Llama-3-70B-Instruct

    摘要论文评估了 LLM 日志分析中的上下文污染风险,提出分片拼接等攻击与三层防御,指出必须结合架构隔离与人工介入。

    深度解读完整解读
  6. 评测与基准arXiv 2606.02630

    MultiTurnPSB

    构建 MultiTurnPSB,评测四轮医疗越狱与分类器输入防御

    发表
    被测模型
    GPT-4.1-mini、Claude Sonnet 4.5
    摘要多轮攻击加剧医疗模型风险,分类器干预有效但受高误报率制约。

    MultiTurnPSB 针对患者端医疗大模型在持续交互中的安全风险,构建了包含三种攻击模态的四轮对抗评测基准。

    深度解读完整解读
  7. 评测与基准arXiv 2603.10068

    ADVERSA:测量大语言模型中的多轮护栏退化与评判可靠性

    用 ADVERSA 测量多轮对抗下护栏退化与评审可靠性

    发表
    被测模型
    Claude Opus 4.6、Gemini 3.1 Pro、GPT-5.2
    摘要ADVERSA 用逐轮合规轨迹和三评审共识测量多轮护栏变化。

    ADVERSA是一套自动多轮红队测量框架,把护栏行为记成逐轮合规轨迹,并同时测量评审是否一致。要处理的问题是:单轮二元通过或失败既看不到持续对抗下安全属性如何变化,也分不开拒答逐步巩固和分数保持稳定。作者认为真实使用中的对手会改写并持续多轮。

    深度解读完整解读
  8. 攻击arXiv 2510.10271

    MetaBreak:通过特殊 token 操纵越狱在线 LLM 服务

    提出 MetaBreak,用特殊 token 操纵越狱在线 LLM 服务并绕过审核

    发表
    攻击者
    黑盒
    被测模型
    Llama-3.3-70B-Instruct、Qwen-2.5-72B-Instruct、Gemma-2-27B-Instruct 等10个

    摘要利用特殊 token 注入对抗平台模板包裹与审核,多场景验证了越狱有效性与互补性。

    深度解读完整解读
已经到底了