跳到正文
原文
AI Incident Database·本站收录· 原文发表日期未标精选关注度52

由前 DOGE 员工创立的 AI 初创公司如何攻入 Anthropic

How an AI start-up founded by ex-DOGE staffers broke into Anthropic

AI 导读

网络安全初创公司 Cathedral 的研究人员利用 Anthropic 使用的第三方企业软件漏洞,进入其销售、人力和 IT 内部系统并接触到敏感数据;Anthropic 称当天就切断了访问。据 Cathedral 报告,研究人员运行 AI 智能体不到 12 小时便找到路径,访问到会议记录、薪资与录用信息,以及讨论其模型的 Slack 消息。Anthropic 表示被访问的仅是一小部分系统,研究人员未能接触用户发给模型的消息、模型回复,也未接触模型代码或权重;公司监控在上报前已发现部分活动,并在同一天关闭访问。Anthropic 称没有证据显示除 Cathedral 外有人利用这些漏洞,已将相关企业软件停用,并在供应商确认修复后重新启用。Cathedral 通过 Anthropic 的漏洞赏金计划披露了发现,Anthropic 已向联邦官员通报。

推荐理由

外部团队用 AI 智能体在不到 12 小时内借企业软件漏洞进入 Anthropic 内部系统,显示了第三方工具接入带来的共同风险。

阅读原文washingtonpost.com