跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选4

攻击类型

提取与窃取0检测规避4恶意使用0

影响

有害内容3越权操作4数据与隐私泄露32输出被操纵20可用性与可靠性3监督失效4

系统形态

模型与 API4

攻击面/入口

用户输入3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
攻击类型：提取与窃取攻击类型：检测规避攻击类型：恶意使用影响：监督失效清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.03124

    研究提出 Untag 攻击框架，使开源大模型触发标签滥用检测机制失效

    提出 UNTAG，绕过开源权重模型的 trigger-tag 滥用检测

    arXiv
    2610.03124
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Llama2 (7B)、Llama3 (8B)、Qwen2.5 (7B)
    摘要作者用 UNTAG 评估 trigger-tag，认为其不能充当开放权重滥用检测的主要边界。

    UNTAG 是针对开放权重 LLM 上条件滥用检测 trigger-tag 的统一攻击评估：信号可以在解码期注入，也可以写进权重，但攻击者若能改输出或改已发布权重，检测可以失效。

    深度解读完整解读
  2. 攻击arXiv 2609.15989

    研究者提出 plan injection 攻击，可绕过思维链监控

    提出 plan injection 攻击，植入良性伪装计划以绕过思维链监视器

    arXiv
    2609.15989
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    灰盒
    被测模型
    Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个

    摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。

    深度解读完整解读
  3. 攻击arXiv 2604.10893

    研究者提出 Adaptive Stealing 自适应窃取水印攻击方法

    提出 Adaptive Stealing，自适应窃取印章以擦除或伪造水印

    arXiv
    2604.10893
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    OPT-2.7b、Llama3-8b
    摘要AS 用逐步选印章做水印伪造与擦除，作者称其攻击效果高于固定策略的 WS。

    AS 是一种窃取生成式 LLM 水印的算法，用来在密钥和检测接口不可用时伪造或擦除水印。

    深度解读完整解读
  4. 攻击arXiv 2509.09112

    研究：字符级扰动可破坏 LLM 水印，并提出基于遗传算法的去除攻击

    提出字符级扰动与遗传算法去除 LLM 水印

    arXiv
    2509.09112
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    OPT-1.3B、LLaMA-3-8B
    摘要字符级扰动靠更大攻击范围移除水印。

    这篇工作评估推理时 LLM 水印在黑盒、有限查询下的移除难度，并比较字符级、token 级和句子级编辑。

    深度解读完整解读
已经到底了