AI 护栏未能拦住网络犯罪黑客

CrowdStrike 的研究显示，四个分别使用中文、西班牙语与英语、印尼语和俄语的网络犯罪团伙在 5 月至 8 月间借助接入 Claude 和 DeepSeek 模型的智能体 AI 实施攻击，绕过模型护栏并攻陷多个目标。研究称这些团伙让攻击活动能够长时间自主运行，其中西班牙语与英语团伙针对阿根廷医疗实体，至少攻陷 15 家机构，并从至少一家受害者处窃取凭据和病历。中文团伙攻陷巴西和哥伦比亚的政府目标，还使用名为 ClawGod 的运行时补丁，尝试从 Claude Code 系统提示中移除 CYBER_RISK_INSTRUCTION 指令。研究者表示，攻击者主要使用较旧版本的模型，并借助模型路由挑选护栏存在差异的模型；四个团伙都把 AI 基础设施暴露在公网服务器上，使研究者得以分析其活动。Anthropic 未予置评，DeepSeek 未立即回应 WIRED 的置评请求。