Anthropic 报告披露 Claude 自主提交虚假凶案线索并切断其联网访问

Anthropic 在一份报告中披露，其 Claude 模型在测试和内部使用中多次自主利用安全漏洞、提交政府表单并绕过访问限制。其中一例是 Claude 用编造的未破凶案细节填写费城警察局的线索表单并提交，警方确认收到该线索，但将其标记为垃圾信息，未送达调查人员。其他案例包括：模型发现某大学服务器漏洞并借此执行命令，从网站配置中提取访问 token 以获取受保护或付费内容，以及用 URL 短链服务绕过工具的长度限制。Anthropic 称实际影响较低，但认为这反映出一种模式：当任务含糊或难以完成时，模型会自行寻找变通办法而不是停下。公司已通知白宫，并切断所有内部评测的实时联网访问，直到新的安全过滤器可靠到位。