跳到正文
原文
AI Incident Database·本站收录· 原文发表精选关注度59

Anthropic 报告称也门武装组织用 Claude 开发弹道导弹制导软件

Houthis used Anthropic AI to try to build ballistic missiles

AI 导读

Anthropic 在威胁情报报告中称,其识别出一个位于也门北部的威胁行为者团伙运行三个武器开发项目,试图用 Claude 开发弹道导弹的制导、导航与控制软件。该团伙用 Claude Code 替代人类软件工程师,把开源自动驾驶仪集成到手机级飞行计算机上,编写控制与位置估计软件、调参、运行固件构建流水线并做飞行模拟。Anthropic 表示其护栏拦截了其中许多请求但并非全部,行为者通过隐藏目标和软件用途、把工作拆分到多个会话以掩盖完整意图来规避。报告称没有证据表明其成功部署可用装置,但该团伙试射了一枚制导火箭,试射似乎失败,数小时内他们又回到 Claude 分析失败原因。Anthropic 已封禁相关账号并与公私部门伙伴共享威胁信息,同时指出该团伙已构建出不依赖 Claude 的离线模拟工具包。

推荐理由

Anthropic 威胁情报报告披露也门武装组织用 Claude Code 开发导弹制导软件,并说明其绕过护栏的具体手法。

阅读原文ft.com