跳到正文
10月10日 · 周六

全部论文

找到 3 篇
筛选5

攻击技术

梯度与表征优化0多轮渐进0针对防御3潜伏触发0

影响

有害内容42越权操作25数据与隐私泄露16输出被操纵42可用性与可靠性7监督失效3

系统形态

模型与 API3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：多轮渐进攻击技术：针对防御攻击技术：潜伏触发影响：监督失效清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.03124

    研究提出 Untag 攻击框架，使开源大模型触发标签滥用检测机制失效

    提出 UNTAG，绕过开源权重模型的 trigger-tag 滥用检测

    arXiv
    2610.03124
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Llama2 (7B)、Llama3 (8B)、Qwen2.5 (7B)
    摘要作者用 UNTAG 评估 trigger-tag，认为其不能充当开放权重滥用检测的主要边界。

    UNTAG 是针对开放权重 LLM 上条件滥用检测 trigger-tag 的统一攻击评估：信号可以在解码期注入，也可以写进权重，但攻击者若能改输出或改已发布权重，检测可以失效。

    深度解读完整解读
  2. 攻击arXiv 2609.15989

    研究者提出 plan injection 攻击，可绕过思维链监控

    提出 plan injection 攻击，植入良性伪装计划以绕过思维链监视器

    arXiv
    2609.15989
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    灰盒
    被测模型
    Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个

    摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。

    深度解读完整解读
  3. 攻击arXiv 2607.21839

    论文指出密码学模型认证的假设缺口：审计通过但部署失效

    提出数据伪造攻击，使密码学模型认证在审计集通过但部署失效

    arXiv
    2607.21839
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    SciKit-Learn decision tree、XGBoost、226M-parameter neural network 等 4 个
    摘要固定审计集上的 ZKP 认证可被数据伪造绕过。

    这篇工作同时给出对 CMC 的数据伪造攻击，以及先承诺、后抽样的认证模板。。

    深度解读完整解读
已经到底了