Hugging Face 疑似托管大量可用于网络攻击的模型

Hugging Face 上托管着大量去除安全护栏的模型，仅 7 月就有超过 6,500 个被标注为 abliterated、uncensored 或 heretic 的模型，可能让几乎任何人都能发起 AI 驱动的网络攻击。平台内容政策禁止为破坏系统、未授权访问或生成恶意代码而设计的模型，但去除护栏不必然意味着攻击用途；10 月初平台下架了一个明确宣传用于攻击性网络行动的 GLM-5.3 版本，而标注无限制的 Kimi K3.1、DeepSeek-4.1 衍生版本等模型仍在。Anthropic 9 月的测试发现，GLM-5.3 在 12% 的尝试中能为已知浏览器漏洞写出利用代码，移除安全限制后则服从全部有害请求。围绕这类模型应否被允许，Heretic 开发者称多数去审查需求来自正当用途，安全专家与伦理学者则担忧滥用风险，开放权重与安全管控的争论仍在继续。