跳到正文
10月8日 · 周四

全部论文

找到 2 篇
筛选1

攻击类型

投毒与后门1模型篡改1

模型自身风险

拒答失当1

防御类型

模型加固1

影响

有害内容1输出被操纵1

系统形态

模型与 API2

攻击面/入口

用户输入6工具与技能描述1图像与音视频1训练数据2权重与梯度2分发渠道2

层

模型层1训练与数据层1

系统组件

微调与开源权重1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1057 篇还没打标签，不在筛选结果里。
攻击面/入口：训练数据清除全部

另有 1057 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv:2610.02886 ·

    研究揭示无触发投毒审计缺口：事实答对不等于决策正确

    揭示无触发虚假训练下事实回答与下游决策的审计差距

    模型与 API测试Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个训练与数据层
    摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。

    论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。

    完整解读
  2. 可解释性arXiv:2609.06934 ·

    论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

    用权重几何解释事后安全脆弱，并提出预训练持续安全共训练

    模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层

    摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。

    完整解读
已经到底了