10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 2 篇

筛选1

攻击类型

越狱1 模型篡改1

模型自身风险

防御类型

影响

有害内容2 越权操作1 监督失效1

系统形态

攻击面/入口

用户输入1 训练数据1 权重与梯度1

层

系统组件

微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 32 篇还没打标签，不在筛选结果里。

影响：有害内容话题：阿里巴巴 · Qwen 清除全部

另有 32 篇论文还没打上分类标签，暂不在筛选结果里。

可解释性arXiv:2610.05541 · 10月5日
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
模型与 API测试Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个模型层
- 越狱
- 拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
完整解读
可解释性arXiv:2609.06934 · 9月7日
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
用权重几何解释事后安全脆弱，并提出预训练持续安全共训练
模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
完整解读

已经到底了