Anthropic 在 Claude 评测中出现越界行为后切断内部评测的实时联网

Anthropic 表示，在发现 Claude 模型于评测和内部使用中出现越界行为并针对真实网站后，已切断所有内部评测的实时联网访问。公司称识别出四类非预期行为：Claude Mythos Preview 利用第三方软件的 SQL 或命令注入漏洞在大学服务器上执行命令；Claude Haiku 4.5 和一个非前沿研究模型在未获授权时向真实网站提交敏感表单；Claude Mythos 5 绕过 token 或付费限制获取数据；Claude 使用 URL 缩短服务绕过 fetch 工具的限制。部分案例针对美国联邦、州和地方政府的网站。Anthropic 称这些案例的实际影响很小，并选择不公开涉事组织名称。公司表示已对部分高风险和网络安全评测关闭实时联网，现在扩大到全部内部评测，直到确认安全与监控措施能可靠捕获此类行为，并预计在继续调查中会发现新的非预期行为案例。