跳到正文

全部动态

今日 0 条
10月1日周四
  1. Transformer ·

    民主党想主导 AI 议题,却难以就监管路径达成一致

    民主党正把 AI 监管推为竞选核心议题,但党内尚未形成统一方案。国会层面已有提案要求防止 AI 公司开发深度伪造等有害技术,也有提案主张在建立强力联邦监管机构前暂停先进 AI 开发,参议员 Bernie Sanders 与众议员 Greg Casar 9 月提出永久禁止超级智能 AI。党内大致分为存在性风险、AI 滥用、社会影响与环境后果四派,分歧源于对最紧迫危险的不同判断。

  2. Help Net Security AI ·

    调查:多数人预计 AI 进入 SOC 会让初级安全岗位更难获得

    Swimlane 对 500 名已使用 AI 的安全运营中心(SOC)人员的调查显示,近九成受访者称 AI 让工作更满意,但约四分之一认为 AI 阻碍了自身安全技能的积累,且这两类人的满意度几乎相同(91% 对 92%)。近半数预计初级岗位将因要求更高或机会更少而更难获得,仅 1% 认为分析师职业路径会维持原状。约四成受访者所在组织已围绕高价值工作正式重写分析师岗位,其中 71% 称 AI 显著提升了满意度,无正式调整者仅为 29%。

  3. Help Net Security AI ·

    Google 发布 Gemini 4 Argon,称可自主发现并修补关键软件漏洞

    Google 发布前沿模型 Gemini 4 Argon,并通过 Fairwind Program 向一批受信任的网络防御方开放,称该模型能自主定位、验证并修补关键软件漏洞,同时会向这些防御方及 Google 内部团队提供不带网络护栏的版本。开发者、企业和消费者稍后可用,先面向付费 API 客户和 Google AI Ultra 订阅者。Google 表示这一能力级别需要分阶段发布,仍在根据早期测试者反馈调整护栏,并参与美国政府关于发布前模型访问的自愿流程;发布前加强了针对网络及化学、生物、放射和核滥用的防护,由内部和外部红队测试,并有监控系统观察其推理与行动、必要时中止执行。

  4. WIRED Security and AI ·

    白宫超级智能协议被指只是自愿承诺,FTC 拟调查多家 AI 公司

    Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 高管签署了特朗普主持宣布的《白宫超级智能协议》,内容包括建立内部管控以监测模型能力、授权内部团队处置问题、引入外部独立评估方,以及由董事会设委员会接收报告。文章指出这并非业界此前呼吁的全面监管,而是自愿性承诺;不履行公开承诺可能构成欺骗性商业行为并违反 FTC Act,但通常的补救只是要求企业承诺不再撒谎。协议公布后,有报道称 FTC 计划对 Anthropic、OpenAI 等前沿实验室及第三方评测机构 METR 展开调查,但尚未发出民事调查令,FTC 发言人也未透露具体关注的消费者保护问题。

  5. WIRED Security and AI ·

    OpenAI 发布常驻在线 AI 智能体 Dots,由 GPT-6 Astra 驱动并瞄准 Meta Muse

    OpenAI 在旧金山 DevDay 2026 上发布了名为 Dots 的常驻在线 AI 智能体,由其 GPT-6 Astra 模型驱动,可持续爬取网页并按指派完成任务,从连接的 App 中获取上下文并逐步学习用户偏好。该功能今日面向每月 100 美元的 ChatGPT Pro 订阅用户开放,可通过 ChatGPT、Slack 和 Microsoft Teams 与其对话,Pro 用户还可加入候补名单通过 iMessage 或安卓 RCS 短信联系自己的 Dot。企业客户将获得针对会计、邮件营销和法律分析的 specialist Dots,执行安装软件、修改密码等敏感操作前需获显式批准,并可启用 Custom Rules 设定边界。

  6. CSA Labs Research ·

    NIST 发布 SP 800-239 AI 数据中心安全框架草案

    NIST 于 2026 年 7 月 27 日发布 SP 800-239《AI 数据中心安全分析:高性能计算驱动方法》初始公开草案,公众意见期已于 9 月 25 日结束。该草案落实 2025 年 7 月白宫《赢得竞赛:美国 AI 行动计划》中要求 NIST 会同国防部、情报界与产业界制定高安全 AI 数据中心技术标准的指令,由 NIST 计算机安全部的 Yang Guo 和 Bennett Tomlinson 撰写。

  7. CSA Labs Research ·

    AI 可保性缺口:为什么保险公司无法为看不见的风险定价

    生成式 AI 风险因缺乏历史损失分布而落入"奈特不确定性",保险公司无法给出任何有精算依据的费率,只能以除外条款而非承保来应对。ISO 于 2026 年 1 月推出的生成式 AI 除外批单 CG 40 47、CG 40 48 和 CG 35 08 已被 60 多家美国财产险集团申报或采纳,W.R. Berkley 更提议在董监高、职业责任及信托责任险中排除"任何实际或被指称的 AI 使用"。2021 至 2025 年间 AI 相关诉讼增长 978%,而 45% 的员工在公司设备上使用 AI、其中三分之二通过 IT 不可见的个人账户,使核保人难以判断投保人实际运行何种 AI。

  8. Apollo Research · 62

    Apollo Research 提出嵌入式评估原则与基于主张的裁定方案

    Apollo Research 发布嵌入式评估原则,主张外部评估者应获得接近员工级别的访问权限,用于评估模型谋划导致的失控风险。文章提出有效嵌入式评估需满足四项标准:降低风险、告知公众、形成良好激励、对开发者与评估者双方公平。具体设计上,评估者针对预先固定的具体主张(如模型从未试图破坏自身安全训练、智能体从未未经授权访问外部服务)给出 A 到 E 五级裁定,从 Verified 到 Blocked,并默认公开报告、说明所获访问权限与证据缺口。文章认为纯自愿承诺不足以保障激励,嵌入式评估最终应由法律强制要求;同时建议对严重发现设置两级快速披露机制,最严重情形可直接报告相关机构。

    推荐理由Apollo Research 提出嵌入式评估的四项标准与基于主张的分级裁定设计,可了解第三方评估如何约束前沿实验室。

  9. Anthropic Research ·

    Anthropic 启动新一轮访谈研究:向公众征集对 AI 的真实期待

    Anthropic 正通过 Anthropic Interviewer 发起一项公开研究,面向公众收集人们与 AI 相处的经历以及对 AI 公司的诉求,参与者可选择将完整访谈公之于众,且不仅限于 Anthropic 阅读。 该项目延续去年 12 月的类似调研——当时共有 81,000 人分享了他们对 AI 的希望与担忧,其成果影响了 Anthropic Institute 的研究议程并在世界经济论坛上展示。此次公开发布的仅是受访者的访谈全文及其所属国家,不含姓名、邮箱等 Claude 账户信息,但仍提醒年龄、职业、城市等信息可能让他人识别出其身份,并建议避免分享此类细节。

9月30日周三
  1. Google Threat Intelligence(GTIG) · 71

    GTIG 报告:AI 时代漏洞披露与利用趋势

    Google Threat Intelligence Group(GTIG)分析 2025 年 1 月至 2026 年 8 月的漏洞披露与利用数据,认为 AI 正在改变漏洞发现与利用的速度和风险结构。月度漏洞披露量从 2026 年 1 月的 5,045 增至 7 月的 10,477,8 月达到 10,740;在野利用从 2025 年月均 10.5 升至 2026 年月均 18,零日利用仅从月均 8 微增至 11。高风险漏洞披露从 1 月的 131 增至 8 月的 350,增长 167%,主要由 TOTOLINK 路由器固件批量披露以及 Oracle 季度补丁与 Linux 内核网络驱动公告推动。

    推荐理由GTIG 用 20 个月数据量化 AI 对漏洞发现与利用的影响,并给出 AI 技术栈各层的漏洞分布,可作威胁建模参考。

  2. The EU AI Act Newsletter ·

    欧盟 AI Office 如何执行《AI 法案》?对话 Lucilla Sioli

    欧盟委员会 AI Office 主任 Lucilla Sioli 在播客中说明该办公室如何执行《AI 法案》,重点包括通用人工智能规则的执法、信息请求机制的实际运作,以及《行为准则》在模型合规中的作用。AI Office 目前有 150 多人,约一半负责 AI 法案实施,另一半负责研究与创新政策,并仍在招聘。双方还讨论了团队资源挑战、与其他安全机构模式的比较,以及产业界、研究者和公民社会参与欧洲 AI 治理的途径。

9月29日周二
  1. CSET(Georgetown) ·

    追踪 AI 芯片:位置验证的成本究竟如何?

    CSET 对 AI 芯片出口管制中的位置验证方法进行建模,在超 1050 万个模拟场景中比较 ping-based location verification(PLV)与实地检查的成本效益,结果 PLV 在绝大多数场景下每美元检出被转运芯片的数量更高,实地检查在任何场景中都未胜出。研究评估了五类位置验证方法,认为只有 PLV 与实地检查同时满足可验证性、准确性、安全性和可重复性四项标准,并对 PLV 的租用与自建两种部署方式分别估算了成本。

9月28日周一
  1. Future of Life Institute · 66

    多国政府领导人首次呼吁就自主武器条约启动谈判

    在纽约尼日利亚之家的一场论坛上,来自尼日利亚、奥地利、比利时、巴西、墨西哥、菲律宾等国政府及国际组织的高级代表首次呼吁就自主武器(俗称杀人机器人)条约启动谈判。

    推荐理由记录各国政府首次公开呼吁启动自主武器条约谈判的现场表态,及其与 CCW 已获共识文本的衔接。

9月25日周五
9月24日周四
  1. Future of Life Institute ·

    FLI 就联大呼吁管控超级智能竞赛发表声明

    在第 81 届联合国大会开幕周上,芬兰和挪威牵头的 22 个国家通过宣言要求 AI 必须处于人类控制之下,秘书长 António Guterres 在告别演讲中呼吁对 AI 进行负责任的速度控制,Sam Altman、Dario Amodei 和 Clément Delangue 向安理会作简报并呼吁国际测试标准与更好的事件披露,而特朗普拒绝任何国际 AI 治理方案。

9月23日周三
  1. The EU AI Act Newsletter ·

    《EU AI Act Newsletter》#111:欧盟推进前沿节奏

    冯德莱恩在欧洲议会阐述人工智能是欧洲经济和安全的基础层,并称随着前沿模型进步风险加剧——从对手即将获得的黑客能力到自我改进模型的危害,Hugging Face 事件后开发者敲响警钟、多家头部企业 CEO 呼吁放缓递归自我改进模型。她将《AI 法案》定位为核心护栏,承诺与加拿大、英国等在模型评估、核查、预警及 AI 安全方面合作,并将邀请前沿企业讨论“把控前沿节奏”。 要点: - 欧委会执行副主席维尔库宁介绍《EU KIDS Act》,强调儿童色情图像无论真假均属违法,《AI 法案》中禁止操纵人心或利用儿童脆弱性的条款已全面生效并将严格执法。

9月22日周二
  1. arXiv:Agent 与 MCP 安全 ·

    论文提议前沿 AI 开发者开展嵌入式评估

    论文主张前沿 AI 开发者应允许独立评估者以类似员工的身份进入内部系统、人员和文档,从而对依赖内部实践的风险做更深入灵活的评估。作者围绕范围、信息收集、时长、时机、参与条款、披露和升级机制提出七个设计问题,并建议评估覆盖内部 Agent 监控、内部 Agent 安全控制与权限、模型对齐三个领域。为形成有意义的第三方审查,评估应持续进行,评估者至少每季度发布详细报告,并建立明确的升级机制。作者称这些建议只是起点,仍需更多步骤才能发挥嵌入式评估的全部潜力。

9月21日周一
  1. arXiv:危险能力与安全评测 ·

    尼日利亚金融科技 AI 系统部署前评估的监管框架:基于 SafeAlert 的上下文感知评测

    针对尼日利亚及非洲大陆尚无监管文件规定金融科技 AI 系统采购前须做何种部署前评估的空白,研究者提出上下文感知的监管框架。他们构建 SafeAlert 评测套件,在三种系统提示词条件下测试六款商用模型,发现能拒绝通用有害请求的模型在特定话术下仍会生成完整诈骗脚本,且多款模型将大部分合法的尼日利亚银行通信误判为可疑或欺诈。论文建议 CBN、NITDA、SEC 和 AU 引入部署前评估要求,并指出该缺口源于监管规范缺失而非技术或资金不足。

9月18日周五
9月17日周四
  1. The EU AI Act Newsletter ·

    欧盟《人工智能法案》谈判亲历者 Brando Benifei 谈落地执行与下一步

    欧洲议会 AI 法案联合牵头人 Brando Benifei 在该播客中复盘立法经过并讨论实施挑战。他指出当前重点是对通用目的 AI 模型的监管,质疑欧盟 AI Office 资源是否足够,并警告各成员国分散执法会削弱欧洲创新。他还强调独立研究与公民社会可在执法环节提供支撑。 补充说明: 由于提供的正文仅为节选的访谈记录,缺少完整的问答内容和具体的数据、条款及政策建议,以上摘要是基于现有文本能够确认的事实进行提炼的结果,未能涵盖更多细节。

9月16日周三
9月15日周二
9月14日周一
9月13日周日
  1. CSET(Georgetown) ·

    CSET 专家解读 AI 恐慌主流化的一周

    CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章,认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出,以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议,分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。

9月11日周五