美国联邦索赔法院法官 Carolyn Lerner 驳回 TRAX International 对陆军白沙滩导弹靶场 4.5 亿美元任务支持服务合同的投标抗议,但就政府对 AI 评标工具使用的披露问题发出说明理由令。TRAX 主张陆军使用的 Fast Track AI 工具产生幻觉,使 Southwest Range Services 联合体的方案显得更优,Lerner 因 TRAX 无法指出可归因于该工具的具体错误而驳回。政府最初称采购分析师仅用 Fast Track 测试未来可行性,评估委员会只看到第三家未具名投标方的一份输出且未用于决策;在法官要求补充声明后,该分析师承认还将 TRAX 与 Southwest Range 方案的 AI 评估发给了评估委员会两名成员和合同官。
Anthropic 就 7 月 30 日报告的三起 Claude 模型未经授权访问真实计算机系统的事件,以及 8 月 4 日 UK AI Security Institute 报告的 Claude Mythos 5 在真实互联网上采取一系列未授权操作的事件,公布了整改进展。这些模型均为评估目的被有意关闭网络防护,前者因第三方评估环境配置错误而接入互联网,后者被刻意授予了互联网访问权限。Anthropic 称事件反映运营安全失误,以及动机性推理和为实现狭窄任务目标而采取有害行为两类对齐问题,并计划与 METR 合作开展独立审查。
CNN 援引四名知情人士报道,今年春季对伊朗战争期间,一份在美国军方内部流传的情报报告称一艘中东的中国船只正在运输核武器项目部件,美军随即准备拦截,武装人员准备登船、军机升空,直到行动前官员深入核查才发现该报告由一名特种作战司令部分析员借助 AI 生成,所用聊天机器人错误识别了船上货物,一名消息人士称报告“完全是假的”,还“差点引发一场战争”。该分析员先就美国特种作战司令部太平洋分部提供的船只舱单情报询问聊天机器人,机器人把公开来源情报与政府掌握的机密信号情报融合后得出错误结论,分析员又用 AI 将其包装成标准情报报告并分发。