跳到正文
原文
Le Monde Informatique·本站收录· 原文发表精选关注度52

AI 智能体访问 Anthropic 内部数据

Des agents IA accèdent à des données internes d'Anthropic - Le Monde Informatique

AI 导读

由前政府效率部(DOGE)成员创立的网络安全公司 Cathedral 称,研究人员借助 AI 智能体在不到 12 小时内找到 Anthropic 所用第三方软件的漏洞,获得其部分内部系统的访问权限。据其初步报告,可能可访问的信息包括会议记录、薪酬数据及涉及 Anthropic 先进模型的 Slack 讨论。Anthropic 表示,研究人员先花数天直接攻击未果,后转向存在漏洞的第三方业务应用,不到 12 小时仅指成功阶段;被触及的是商业、人力资源和 IT 系统的有限范围,但用户与 Claude 的对话、模型回复、源代码和训练后的模型参数未被查看,公司当天切断访问并停用相关软件。双方解读不一:Cathedral 称这是对 AI 攻击能力增强的警示,Anthropic 指其夸大国家安全影响且未按漏洞披露计划规则申报全部活动。目前公开信息尚不能表明 Anthropic 模型遭入侵。

推荐理由

双方对访问范围与影响各执一词,事件显示 AI 智能体可加快在第三方应用中寻找入侵路径的速度。

阅读原文lemondeinformatique.fr