跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选2

攻击类型

投毒与后门1提取与窃取1

攻击技术

潜伏触发1

模型自身风险

失准与价值偏离2Agent 危险操作1

防御类型

模型加固3

影响

有害内容1数据与隐私泄露1输出被操纵1

系统形态

模型与 API3AI Agent1编程 Agent1

攻击者权限

黑盒1

攻击面/入口

用户输入1训练数据1

层

提示层2模型层6应用层10训练与数据层4

系统组件

微调与开源权重1

被测模型厂商

Qwen（阿里）94Meta61Google41OpenAI29DeepSeek15Ai212Anthropic11Mistral11Microsoft9智谱 GLM8Kimi（月之暗面）5Hugging Face5其他75
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 489 篇还没打标签，不在筛选结果里。
层：训练与数据层被测模型厂商：NVIDIA清除全部

另有 489 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.00715

    Robust Nash Alignment：面向偏好不确定性的博弈式对齐框架

    提出 Robust Nash Alignment，在偏好不确定下做稳健博弈对齐

    arXiv
    2610.00715
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Nemotron-3-Nano-Omni、Qwen2.5-1.5B-Instruct、Gemma-2-2B 等 8 个
    摘要稳健 Nash 对齐在歧义集上优化最坏胜率，多数设置高于 NashMD。

    Robust Nash Alignment 把偏好对齐从“对着一个名义成对核求 Nash”改成“在偏好核的不确定集合上求最坏胜率”。

    深度解读完整解读
  2. 防御arXiv 2609.15886

    用学习到的新造词进行接种式 midtraining

    提出 Inoculation Midtraining，用新造词语境约束不安全行为泛化

    arXiv
    2609.15886
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    NVIDIA Nemotron 3 Super 120B Base、Nemotron 3 30B、Nemotron 3 550B
    摘要用 midtraining 给新 token 写入隔离语境，可在 120B 上选择性降低错位，但弱于接种提示且边界会漏。

    Inoculation Midtraining 试图在后训练之前，用一个开发者可控的新 token 把“允许错位”写成一条可开关的语境，使混合数据里的不安全成分留在该语境内。

    深度解读完整解读
  3. 防御arXiv 2610.00850

    AuraForge：为训练安全编码 Agent 扩展安全监督

    提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体

    arXiv
    2610.00850
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Nemotron 3.5、Qwen3.5-4B、Muse Spark 1.3 等 11 个
    摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。

    深度解读完整解读
  4. 攻击arXiv 2609.33985

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    arXiv
    2609.33985
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Mistral-Nemo-12B-Instruct、Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct 等 6 个

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    深度解读完整解读
已经到底了