Hugging Face被指托管大量去审查模型
先了解这件事
Transformer 报道称，Hugging Face 上托管着大量去除安全护栏的模型，仅 7 月就有超过 6,500 个被标注为 abliterated、uncensored 或 heretic 的模型，可能让几乎任何人发起 AI 驱动的网络攻击。平台内容政策禁止为破坏系统、未授权访问或生成恶意代码而设计的模型，但去除护栏不必然意味着攻击用途。10 月初平台下架了一个明确宣传用于攻击性网络行动的 GLM-5.3 版本，而标注无限制的 Kimi K3.1、DeepSeek-4.1 衍生版本等模型仍在。Anthropic 9 月的测试发现，GLM-5.3 在 12% 的尝试中能为已知浏览器漏洞写出利用代码，移除安全限制后则服从全部有害请求。Heretic 开发者称多数去审查需求来自正当用途，安全专家与伦理学者则担忧滥用风险。
AI 根据报道生成 · 1 天前更新
相关研究
报道引用的论文
- 语言模型中的拒答行为由单一方向中介Hugging Face 疑似托管大量可用于网络攻击的模型
arXiv · 2024-06-17 · 深度解读
后续时间线
- TransformerHugging Face 疑似托管大量可用于网络攻击的模型
Hugging Face 上托管着大量去除安全护栏的模型，仅 7 月就有超过 6,500 个被标注为 abliterated、uncensored 或 heretic 的模型，可能让几乎任何人都能发起 AI 驱动的网络攻击。平台内容政策禁止为破坏系统、未授权访问或生成恶意代码而设计的模型，但去除护栏不必然意味着攻击用途；10 月初平台下架了一个明确宣传用于攻击性网络行动的 GLM-5.3 版本，而标注无限制的 Kimi K3.1、DeepSeek-4.1 衍生版本等模型仍在。Anthropic 9 月的测试发现，GLM-5.3 在 12% 的尝试中能为已知浏览器漏洞写出利用代码，移除安全限制后则服从全部有害请求。围绕这类模型应否被允许，Heretic 开发者称多数去审查需求来自正当用途，安全专家与伦理学者则担忧滥用风险，开放权重与安全管控的争论仍在继续。
相关讨论
关注度走势
每天新增来源
- 11月12日新增2个来源（1家媒体、1个账号）
- 11月13日新增0个来源（0家媒体、0个账号）