由前 DOGE 员工创立的 AI 初创公司如何攻入 Anthropic
How an AI start-up founded by ex-DOGE staffers broke into Anthropic
AI 导读
网络安全初创公司 Cathedral 的研究人员利用 Anthropic 使用的第三方企业软件漏洞,进入其销售、人力和 IT 内部系统并接触到敏感数据;Anthropic 称当天就切断了访问。据 Cathedral 报告,研究人员运行 AI 智能体不到 12 小时便找到路径,访问到会议记录、薪资与录用信息,以及讨论其模型的 Slack 消息。Anthropic 表示被访问的仅是一小部分系统,研究人员未能接触用户发给模型的消息、模型回复,也未接触模型代码或权重;公司监控在上报前已发现部分活动,并在同一天关闭访问。Anthropic 称没有证据显示除 Cathedral 外有人利用这些漏洞,已将相关企业软件停用,并在供应商确认修复后重新启用。Cathedral 通过 Anthropic 的漏洞赏金计划披露了发现,Anthropic 已向联邦官员通报。
推荐理由
外部团队用 AI 智能体在不到 12 小时内借企业软件漏洞进入 Anthropic 内部系统,显示了第三方工具接入带来的共同风险。
阅读原文