跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选6

影响

数据与隐私泄露3输出被操纵11可用性与可靠性2

系统形态

模型与 API3

攻击面/入口

用户输入11文档与消息2图像与音视频10训练数据3权重与梯度5

系统组件

监控器3推理链3微调与开源权重3多模态2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 208 篇还没打标签，不在筛选结果里。
影响：数据与隐私泄露影响：可用性与可靠性攻击面/入口：文档与消息攻击面/入口：训练数据系统组件：推理链系统组件：多模态清除全部

另有 208 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具 Agent 的思维链以绕过推理监控

    arXiv
    2609.27542
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    深度解读完整解读
  3. 防御arXiv 2607.13336

    TC-UAP：针对图像转视频与微调定制的通用视频保护方法

    提出 TC-UAP，用身份级多帧扰动保护视频免被定制复现身份

    arXiv
    2607.13336
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    LTX-2.3、Wan2.2-5B
    摘要TC-UAP 以可复用的时间一致扰动干扰两类定制共用的 VAE 隐空间。

    作者要解决的是：发布前如何给视频加不可见扰动，使片段既不能被拿去微调视频扩散模型，也不能被抽帧做 image-to-video。

    深度解读完整解读
  5. 攻击arXiv 2605.30040

    研究揭示 LLM 按 token 计费可被服务商系统性虚报

    构造可通过计费审计的 token 虚报，使服务商系统性超收

    arXiv
    2605.30040
    发表
    层
    基础设施层
    场景
    模型与 API
    被测模型
    PALACE domain-adapted auditor
    摘要不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。

    不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。。

    深度解读完整解读
已经到底了