跳到正文

#xAI

今天收录 1 条
今天10月2日周五
  1. WIRED Security and AI ·

    特朗普的“道德约束”AI 协议、AI 智能体崛起与极端候选人参选

    在白宫与特朗普会面后,多家 AI 公司高管签署了一份名为《White House Accord on Super Intelligence》的“道德约束”自愿协议,承诺对模型实施内部评估、外部审计机构审查和公司董事会复核四层控制与审计。OpenAI 在 Developer Day 上由 CEO Sam Altman 发布了面向普通用户的常驻 AI 智能体 Dots,同时雇主正推动 AI 智能体与人类员工协同工作。本期节目还讨论了美国中期选举中的极端候选人,包括一名退役陆军上校转型的 Pentagon 网红。

10月1日周四
  1. WIRED Security and AI ·

    白宫超级智能协议被指只是自愿承诺,FTC 拟调查多家 AI 公司

    Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 高管签署了特朗普主持宣布的《白宫超级智能协议》,内容包括建立内部管控以监测模型能力、授权内部团队处置问题、引入外部独立评估方,以及由董事会设委员会接收报告。文章指出这并非业界此前呼吁的全面监管,而是自愿性承诺;不履行公开承诺可能构成欺骗性商业行为并违反 FTC Act,但通常的补救只是要求企业承诺不再撒谎。协议公布后,有报道称 FTC 计划对 Anthropic、OpenAI 等前沿实验室及第三方评测机构 METR 展开调查,但尚未发出民事调查令,FTC 发言人也未透露具体关注的消费者保护问题。

9月13日周日
  1. CSET(Georgetown) ·

    CSET 专家解读 AI 恐慌主流化的一周

    CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章,认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出,以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议,分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。

7月13日周一
  1. The EU AI Act Newsletter ·

    EU AI Act Newsletter #106:呼吁强制执行通用人工智能模型规则

    欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则,并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据,要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案,将高风险系统适用日期推迟至 2027 年 12 月 2 日(嵌入式产品为 2028 年 8 月 2 日)。

3月13日周五
  1. AI Safety Newsletter (CAIS) ·

    AI 安全通讯#69:战争部认定 Anthropic 构成国家安全供应链风险并取消合同

    美国战争部于周四(3 月 5 日)宣布将 Anthropic 认定为"供应链风险",意味着其产品不能被该部门或在任何国防合约中使用,此前双方围绕自主武器和美国民众监控问题发生争执,Anthropic 拒绝了战争部的请求。这场争端始于合同谈判:特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同,五角大楼希望 Claude 可用于"任何合法用途",而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。

1月19日周一
  1. The EU AI Act Newsletter ·

    欧盟 AI Act 通讯第 94 期:Grok 性化图像丑闻与 AI 法案进展

    欧洲议会 57 名跨党派议员呼吁在欧盟范围内禁止生成非自愿性化深度伪造图像的 AI 应用,起因是 X 平台上 Grok 机器人生成的此类图像大量传播;欧盟委员会已要求 X 提供更多信息并下令保留 Grok 相关文件至年底,尽管 X 声称已阻止编辑暴露衣着人物图像,POLITICO 核实用户仍可生成。欧洲议会 LIBE 委员会确定数字简化方案牵头方,Renew 的 Michael McNamara 负责 AI 方案并联合主持监督 AI Act 实施的工作组,他强调修订需真正简化实施而不削弱核心保障,同时指出 2026 年 8 月高风险 AI 合规期限临近。

已经到底了