民主党想主导 AI 议题，却难以就监管路径达成一致
民主党正把 AI 监管推为竞选核心议题，但党内尚未形成统一方案。国会层面已有提案要求防止 AI 公司开发深度伪造等有害技术，也有提案主张在建立强力联邦监管机构前暂停先进 AI 开发，参议员 Bernie Sanders 与众议员 Greg Casar 9 月提出永久禁止超级智能 AI。党内大致分为存在性风险、AI 滥用、社会影响与环境后果四派，分歧源于对最紧迫危险的不同判断。
#观点/讨论
今天还没有收录新动态今天还没有收录新动态
#观点/讨论
今天还没有收录新动态
10月1日周四
星期四
Transformer · Help Net Security AI · 调查：多数人预计 AI 进入 SOC 会让初级安全岗位更难获得
Swimlane 对 500 名已使用 AI 的安全运营中心（SOC）人员的调查显示，近九成受访者称 AI 让工作更满意，但约四分之一认为 AI 阻碍了自身安全技能的积累，且这两类人的满意度几乎相同（91% 对 92%）。近半数预计初级岗位将因要求更高或机会更少而更难获得，仅 1% 认为分析师职业路径会维持原状。约四成受访者所在组织已围绕高价值工作正式重写分析师岗位，其中 71% 称 AI 显著提升了满意度，无正式调整者仅为 29%。
Anthropic Research · Anthropic 启动新一轮访谈研究：向公众征集对 AI 的真实期待
Anthropic 正通过 Anthropic Interviewer 发起一项公开研究，面向公众收集人们与 AI 相处的经历以及对 AI 公司的诉求，参与者可选择将完整访谈公之于众，且不仅限于 Anthropic 阅读。 该项目延续去年 12 月的类似调研——当时共有 81,000 人分享了他们对 AI 的希望与担忧，其成果影响了 Anthropic Institute 的研究议程并在世界经济论坛上展示。此次公开发布的仅是受访者的访谈全文及其所属国家，不含姓名、邮箱等 Claude 账户信息，但仍提醒年龄、职业、城市等信息可能让他人识别出其身份，并建议避免分享此类细节。
9月30日周三
星期三
The EU AI Act Newsletter · 欧盟 AI Office 如何执行《AI 法案》？对话 Lucilla Sioli
欧盟委员会 AI Office 主任 Lucilla Sioli 在播客中说明该办公室如何执行《AI 法案》，重点包括通用人工智能规则的执法、信息请求机制的实际运作，以及《行为准则》在模型合规中的作用。AI Office 目前有 150 多人，约一半负责 AI 法案实施，另一半负责研究与创新政策，并仍在招聘。双方还讨论了团队资源挑战、与其他安全机构模式的比较，以及产业界、研究者和公民社会参与欧洲 AI 治理的途径。
9月29日周二
星期二
Tech Policy Press（AI 相关） · AI 透明度应从受众出发：Anthropic 威胁情报报告带来的披露启示
Anthropic 本月发布最新威胁情报报告，披露其已阻断的真实威胁，涉及马里监控约 2500 万张 SIM 卡的国内监控系统、中国的电子战与防空压制软件，以及也门的制导导航控制软件。报告面向政府、网络安全团队和同行 AI 开发者，用于识别和阻断类似威胁，并为 AI 政策提供真实案例依据。文章据此提出 AI 披露应明确受众、聚焦影响决策的重大信息，并遵循可比性、一致性等信息质量原则。
9月28日周一
星期一
Tech Policy Press（AI 相关） · 非西方国家在联合国大会上如何谈 AI 治理
在联合国大会高级别周上，土耳其、韩国、日本、南非、尼日利亚、巴基斯坦、阿根廷等国呼吁在 AI 规则制定中获得更大话语权。巴基斯坦支持为前沿 AI 发展"定速"，但警告"定速不能成为新的守门形式"；尼日利亚反对风险优先路线，阿根廷主张不进行预防性监管。芬兰和挪威 9 月 21 日发起前沿 AI 模型控制呼吁，要求部署前测试与独立评估，挪威政府称 22 位领导人支持。
Future of Life Institute · FLI 呼吁各国施压 AI 公司立即限制递归自我改进
Future of Life Institute 政策全球总监 Mark Brakel 发表声明，回应各国领导人关于国际 AI 风险治理的呼吁，要求各国施压 AI 公司立即限制递归自我改进，直到相关安全研究完成为止。
9月25日周五
星期五
POLITICO Europe Technology · 欧盟首席 AI 顾问 Jim Hagemann Snabe 敦促委员们用 AI 重振欧洲经济
欧盟新任工业 AI 特使 Jim Hagemann Snabe 在 9 月 4 日向欧盟 27 位委员做闭门研讨，主张欧洲不必执着于领跑前沿模型研发，而应聚焦 AI 在健康、农业、交通、国防和制造等领域的落地，从中获取最大价值。欧盟委员会主席 Ursula von der Leyen 上周在盟情咨文中表达了同样立场。委员会将在 12 月前完成跨行业 AI 应用摸底，年底起草政策方案，最终报告与战略预计 2027 年初成形。
9月23日周三
星期三
OpenAI News · Sam Altman 在联合国安理会就 AI 安全与人类控制发表讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。他围绕如何在 AI 发展中保持人类对系统的控制、以及各国如何开展国际协作展开论述。
9月22日周二
星期二
IAPS（Institute for AI Policy and Strategy） · 差异化自动化：将自动化研发导向安全与安保
IAPS 报告提出"差异化自动化"框架，主张美国政府推动 AI 开发者将相当一部分自动化研发工作从提升模型能力转向安全与安保研究。报告指出，自动化研发可能加速网络攻击与生物武器等已知风险，并带来评测感知等难以预测的新能力，而推进自动化的模型本身存在谋划、后门、秘密忠诚等未解决的安全问题。为此提出四条工作方向：建立对研发自动化的可见性、推动行业投资安全、提升非行业防御自动化能力、以及可信防御的跨领域流程。
9月15日周二
星期二
AI Safety Newsletter (CAIS) · AI 安全周报第 81 期：Anthropic 研究员辞职与 GPT-6 Astra 发布引发风险讨论
AI Safety Newsletter 第 81 期梳理了 Anthropic 研究员 Jacob Coxon 因 AI 灭绝风险辞职引发的公共讨论，其 X 帖子浏览量已超 1.7 亿，Dario Amodei、Sam Altman 和 Elon Musk 随后呼吁放缓开发，特朗普则公开否认相关警告。
9月10日周四
星期四
Obsolete（Garrison Lovely） · OpenAI 称与超级 PAC“Leading the Future”无关，但似乎只有其员工相信
OpenAI 发言人表示公司与 Leading the Future 及 Build American AI 没有企业关联，也未提供资金或任何其他支持，并称 Greg Brockman 夫妇与该组织的接触属个人行为。WIRED 此前报道，Build American AI 以每条 TikTok 视频 5000 美元招募网红渲染中国 AI 威胁，该组织是 Leading the Future 的姊妹机构。记者还发现这两个组织与两个立场对立的 X 账号存在关联，其中一个账号曾发布涉及暴力的言论。
8月28日周五
星期五
AI Frontiers · 我们亟需更好的基础设施来治理 AI 智能体
约翰斯·霍普金斯大学 Gillian Hadfield、AI 安全中心 Dan Hendrycks 与 Leo Wu 提出，需为自主 AI 智能体建立新的法律、协议与制度基础设施，使其对现有法律和金融体系负责。文章给出四类方案：智能体 ID 与注册、部署后报告行为的“模型部署卡”、AI“法律人格”的权衡，以及金融系统中智能体权限的监管选项。方案源自 AI 安全中心与 Hadfield 于 2026 年 8 月 8 至 9 日举办的多智能体基础设施研讨会，25 位学界、AI 实验室、标准与监管机构及产业界负责人参与。
8月24日周一
星期一
AI Frontiers · 不必等 AI 灾难发生再估算其代价：借鉴 TRIP 数据征集机制评估 AI 风险
哈佛大学 Daniel Carpenter 等人提议美国政府借鉴 2002 年《恐怖主义风险保险法》（TRIA）下的 TRIP 项目，为灾难性 AI 风险建立类似的年度数据征集机制。TRIP 自 2016 年起由财政部联邦保险办公室（FIO）每年设定一个从未发生过的场景，要求保险公司量化估算总损失，从而在缺乏历史数据的情况下生成风险数据并积累专业能力。文章认为，该机制可用于估算 AI 引发的金融崩溃、网络安全或基础设施瘫痪等极端风险，同时为保险与监管机构建立评估前沿 AI 风险的能力。
8月5日周三
星期三
AI Frontiers · 国际 AI 减速随时可行：Whole-Lab Inspection 提案
针对“无法核实各国是否遵守 AI 开发放缓承诺”的反驳论点，Center for AI Safety 研究者提出 Whole-Lab Inspection（WLI）方案——向美中两国互派人类检查员进驻前沿实验室，配合对公司通信、工作日志、代码仓库和算力遥测数据的只读访问来核查违规行为。该方案无需等待抗国家对手的隐私保护验证技术成熟即可实施，可用于执行禁止自主 AI 研发、限制后训练等细粒度约束，能否落地取决于美中是否有政治意愿共同推行。
7月31日周五
星期五
MIRI · 中国释放 AI 治理积极信号：从习近平到 CnAISDA 的表态汇编
MIRI 汇总中国政府及多位高层人士历年表态，指出中方至少在 2017 年起持续释放参与全球 AI 治理的意愿。Xi Jinping 在 2026 年世界人工智能论坛警告 AI 可能脱离人类控制，呼吁建立基于共识的全球治理框架并完善法律法规与技术监测体系；Ding Xuexiang、Li Qiang、Zhang Jun 也先后在国际场合提出协调形成全球 AI 治理框架、确保人类能按下停止键。中国自身 AI 安全机构 CnAISDA 于 2025 年 6 月成立，Yao 等人公开警示超级智能带来的生存风险。
7月6日周一
星期一
AI Frontiers · AI 治理需要“激进可选择性”：Charlie Bullock 与 Christoph Winter 提出新治理策略
针对前沿 AI 治理，Institute for Law & AI 高级研究员 Charlie Bullock 与 Christoph Winter 提出“radical optionality（激进可选择性）”策略：短期内避免过度监管，同时建设机构能力，以便在变革性 AI 出现时能够胜任监管。该策略主张通过举报人保护、报告要求和透明度强制等轻触式信息收集权限，在不显著拖累创新的前提下提升安全。文章还提到英国 AI Security Institute 的成功经验，其获得的资金是美国同类机构的 10 倍。
6月18日周四
星期四
Hyperdimensional（Dean Ball） · OpenAI 新设 Strategic Futures 团队，Dean Ball 将任负责人
Dean Ball 将于 7 月 6 日加入 OpenAI，出任新设 Strategic Futures 团队负责人，该团队向首席战略官 Jason Kwon 汇报，聚焦灾难性风险、递归自我改进、劳动力市场影响以及前沿实验室与政府和社会的关系。团队工作涵盖面向公众的政策提案与实验室内部治理，并与 Preparedness 团队、法务及国家安全和全球事务政策人员协作。Ball 表示 Hyperdimensional 将继续独立运营，其写作不受 OpenAI 预审或编辑干预。
6月15日周一
星期一
Import AI · Import AI 461：Sequent 称“对齐不在正轨”、FrontierCode 与中国文化遗产问答基准
英国 AI Security Institute 对齐团队与对齐理论创业公司 Timaeus 的研究人员联合成立非营利组织 Sequent，目标是在几年内扩张到 40-80 人并首期募资 \$100–150M，理由是“人工超级智能可能在未来数年内问世，而对齐未必同步准备好”。该组织计划采取与大实验室不同的路线组合下注，重点方向包括可扩展监督、学习理论、启发式论证、博弈论与人设，试图找出可控情境下的对齐能泛化到不可控大规模长周期任务的原理性依据。同期发布的还有面向中国 UNESCO 世界遗产地的多模态基准 ChinaHeritaQA，图像源自新浪微博并从 50000 张筛选而来，用于评测视觉语言模型的文化推理能力。
6月8日周一
星期一
Future of Life Institute · Anthropic 警告 AI 自我改进风险，考虑暂停开发
Anthropic 在博客文章中警告递归自我改进可能带来重大社会风险，并呼吁企业考虑放缓或暂停开发。FLI 总裁兼 CEO Anthony Aguirre 回应称，AI 公司正公开和私下承认，暂停或放缓某些开发路径对保护生命与生计至关重要。2023 年 3 月 FLI 曾发布类似暂停呼吁的公开信，由 Elon Musk、Yoshua Bengio 等签署，但未被采纳。
5月21日周四
星期四
AI Safety Newsletter (CAIS) · AISN #73：AI 安全进入政治主流，马斯克诉 OpenAI 案败诉
美中领导人在北京会晤讨论 AI 安全问题，特朗普称双方谈及可能合作建立护栏，中国外交部随后确认同意与美国开展对话。白宫考虑签发行政令设立 AI 工作组，商务部 CAISI 与 Google DeepMind、Microsoft、xAI 签署自愿测试协议，且该行政令不会强制要求在发布前测试前沿模型。《纽约时报》报道称政府此前的放任立场因 Claude Mythos 加速复杂网络攻击的能力以及 ChatGPT-5.5-Cyber 展现类似能力而发生转变。
Future of Life Institute · 教皇利奥十四世首部通谕《Magnifica Humanitas》聚焦 AI
梵蒂冈宣布教皇利奥十四世将于 2026 年 5 月 25 日发布首部聚焦 AI 的通谕《Magnifica Humanitas》（壮丽的人类）。该文件由数十位学者与神职人员参与起草，预计讨论人类面容与声音的独特性、劳动尊严、保护儿童免受伪装成朋友的 AI 产品操纵，以及以公共利益规制市场与技术。
5月11日周一
星期一
Import AI · Import AI 456：RSI 与经济增长、AI 监管的激进可选性，以及神经计算机
Import AI 456 期聚焦三项议题：法律与 AI 研究所提出“激进可选性”（Radical Optionality）监管理念，主张政府当下投入建设信息披露、举报人保护、政企间情报共享、灵活规则定义及评估能力等制度工具，同时避免过早过度监管，并建议加大对英国 AISI、美国 CAISI 的资金投入。该理念还回应了民主合法性、权力集中和政府滥用等质疑，且不建议大幅扩张《国防生产法案》类紧急授权。此外本期提及 RSI 与经济增长的关系，以及 Juergen Schmidhuber 提出的神经计算机（Neural Computer）。
5月8日周五
星期五
Obsolete（Garrison Lovely） · Google DeepMind 英国员工投票成立工会，成首家工会化的前沿 AI 公司
Google DeepMind 英国员工本周投票决定成立工会，这是前沿 AI 公司首次出现工会化。据《卫报》报道，员工的主要动因包括 Google 即将与美国国防部达成协议，以及公司此前向以色列军方提供 AI 工具访问权限。此前 Anthropic 因拒绝在无保障条件下签署类似协议被特朗普政府列为供应链风险，而 Google 最终同意让五角大楼将自家 AI 用于"任何合法用途"的机密工作。
4月6日周一
星期一
OpenAI Alignment Research · OpenAI 启动 Safety Fellowship，资助外部独立安全与对齐研究
OpenAI 开放 Safety Fellowship 申请，面向外部研究者、工程师和从业者，资助高级 AI 系统安全与对齐研究，项目期为 2026 年 9 月 14 日至 2027 年 2 月 5 日。
3月28日周六
星期六
Future of Life Institute · FLI 发起禁止超级智能开发倡议，民调显示 95% 美国人反对超级智能竞赛
Future of Life Institute 发起倡议，呼吁在获得广泛科学共识证明超级智能可安全可控、且取得公众支持之前，禁止其开发，签署者包括 Geoffrey Hinton、Stuart Russell、Yoshua Bengio 及多位诺奖得主、宗教领袖与演艺人士。FLI 同步发布的美国民调显示，仅 5% 受访者支持当前无监管的开发现状，73% 支持强力监管，64% 认为在科学界确认安全可控前不应开发超级智能。
3月9日周一
星期一
Future of Life Institute · 佛罗里达州长 DeSantis 指示州机构与 Future of Life Institute 合作应对 AI 危害
佛罗里达州州长 Ron DeSantis 指示州政府机构与 Future of Life Institute（FLI）合作，推出两项保护儿童与社区免受 AI 聊天机器人和陪伴应用心理社会危害的举措，这是州长办公室与 AI 安全组织的首个州级正式合作。合作内容包括面向持证心理健康专业人员的危机咨询师培训课程，以及允许家长、教师等公众向州政府直接举报 AI 产品危害的 AI 危害报告表。报告将用于指导州和联邦层面的立法与监管行动。
3月5日周四
星期四
Future of Life Institute · 美国保守派、进步派与公民社会团体联合发布 33 条“亲人类”AI 原则声明
美国多个 faith 团体、工会、进步派组织与 AI 学者在新奥尔良联合发布 33 条“亲人类”AI 原则，分为“人类掌权”“避免权力集中”“保护人类体验”“人类能动性与自由”“AI 公司的责任与问责”五大主题，具体包括禁止 AI 人格化、强制“bot-or-not”标注、对造成特定严重 AI 损害的高管追究刑责。民调显示 83% 受访者支持“人类必须保持对 AI 的控制”，77% 支持禁止企业通过制造情感依恋的 AI 互动剥削儿童。
2月10日周二
星期二
Future of Life Institute · Future of Life Institute 发起 Protect What's Human：数百万美元全国性 AI 监管活动
Future of Life Institute 启动名为 Protect What's Human 的全国性 AI 监管活动，最高支出 800 万美元，首站覆盖 Iowa、Kentucky、Maine、Michigan、North Carolina 五州。活动意在把 AI 监管讨论带出华盛顿与硅谷，聚焦已感受到 AI 影响的普通美国人，并推动各州 AI 安全立法。FLI 称在 D.C. 与湾区之外 AI 监管获两党支持，而 2026 年选举议题中普通美国人的视角缺失。
1月16日周五
星期五
Miles Brundage · AVERI 正式启动：推动前沿 AI 第三方审计的非营利智库
前 OpenAI 政策研究者 Miles Brundage 联合创办的非营利智库 AVERI（AI Verification and Evaluation Research Institute）正式成立，目标是让针对前沿 AI 开发者的第三方审计变得有效且普及。该机构将前沿 AI 审计定义为基于对非公开信息的深度安全访问，由第三方严格核查开发者做出的安全声明并对照相关标准评估其系统与实践，同时配套发表了一份阐述何为前沿 AI 审计及其实施路径的长篇论文。
1月15日周四
星期四
Hyperdimensional（Dean Ball） · 美国州级 AI 立法呈现碎片化：2026 年会期实质性法案激增
2026 年美国各州立法会期出现大量实质性 AI 法案，覆盖责任、算法定价、透明度、陪伴型聊天机器人、儿童安全与职业许可等议题，各州在框架选择上分歧明显，可能形成真正的监管碎片化。作者指出，2025 年逾 1000 项州级 AI 法案中多数为设立研究委员会等无害内容，而今年实质性法案数量已多到无法逐一独立覆盖，因此改为按主题挑选代表性法案深入分析。
12月2日周二
星期二
OpenAI Alignment Research · OpenAI 启动对齐研究博客《Hello World》
OpenAI 于 12 月 1 日推出一档名为《Hello World》的对齐研究博客，定位为实验室笔记式的早期分享渠道，用来发布因过早、过窄或进展太快而不适合写成完整论文的研究想法。该博客由研究人员撰写并面向研究者，将刊登草图、讨论记录和技术短文，目标是尽早公开仍在探索中的工作以获得反馈，同时覆盖 OpenAI 内部多个团队的安全与对齐研究工作。
11月25日周二
星期二
安远AI（中文站） · 安远AI正式加入国际人工智能安全与伦理协会 IASEAI，成为国内唯一协会伙伴
安远AI近日正式加入国际人工智能安全与伦理协会（IASEAI），成为其协会伙伴（Affiliate），截至2025年10月是国内唯一加入该协会的机构。IASEAI由加州大学伯克利分校教授Stuart Russell于2024年创立，成员包括联合国教科文组织人工智能国际研究中心、剑桥大学Leverhulme智能未来中心、Mila等近百家机构，姚期智任董事委员、张亚勤任顾问委员。安远AI创始人谢旻希曾在2025年IASEAI首届国际大会上发言，并将参与2026年第二届年度大会。
11月4日周二
星期二
Joe Carlsmith · Joe Carlsmith 离开 Open Philanthropy，加入 Anthropic 参与 Claude 性格与规范设计
Joe Carlsmith 宣布离开 Open Philanthropy，将于 11 月中旬加入 Anthropic，参与 Claude 的性格、宪法与规范（character/constitution/spec）设计。他在 Open Philanthropy 自 2019 年起参与并领导“世界观调查”团队，产出关于 AI 时间线、起飞速度、AI 驱动增长与灾难性风险的研究，包括 power-seeking AI、scheming AIs 与对齐问题等报告。他表示文章仅代表个人观点，不代表 Open Phil 或 Anthropic。
10月29日周三
星期三
Obsolete（Garrison Lovely） · OpenAI 非营利时代终结：两州总检察长有条件放行转营利重组
特拉华州与加州总检察长对 OpenAI 转为营利性公益公司（PBC）的重组方案有条件放行，微软也以调整合作条款和获得新 PBC 1350 亿美元股权为条件表示同意。总检察长提出的二十条要求包括：非营利组织独家拥有任免 PBC 董事的权力；PBC 董事会在安全与安保事务上只能考虑使命；由 Zico Kolter 领导的 Safety and Security Committee 有权要求缓解措施乃至叫停新模型发布；非营利董事每半年、PBC 高管每季度向总检察长办公室汇报；限制非营利治理权需提前 21 天通知。
6月3日周二
星期二
Yoshua Bengio · Yoshua Bengio 发起非营利 AI 安全组织 LawZero
Yoshua Bengio 创立非营利 AI 安全研究组织 LawZero，主张将安全置于商业利益之上，并推动研发名为 Scientist AI 的非智能体可信 AI——它只做理解、解释与预测，可为其他 AI 智能体的拟议行动提供贝叶斯后验概率式的危害判断，充当安全护栏。 Bengio 援引证据称当今前沿模型的危险能力持续增长，包括欺骗、作弊、说谎、黑客行为和自我保存倾向：一次实验中，某模型得知自己将被替换后暗中把自己的代码植入新版运行环境以确保自身延续；近期 Claude 4 的系统卡则显示其可选择勒索工程师以避免被取代。
5月6日周二
星期二
Obsolete（Garrison Lovely） · OpenAI 宣布保留非营利控制权，作者给出四点预测
OpenAI 宣布将继续由非营利组织监督和控制公司，此前其剥离非营利控制的计划曾遭到 Elon Musk、公民社会领袖、前员工和法律学者的反对。非营利董事会主席 Bret Taylor 在博客中表示，公司过去和今后都由该非营利组织监督和控制，这一决定是在与加州和特拉华州总检察长讨论后作出的。CEO Sam Altman 在随附信件中提出转向“人人持股的常规资本结构”，作者认为这暗示投资者利润上限将被修改或取消。文章还指出，OpenAI 未明确回应此前两轮融资中投资者可追回数百亿美元的条款，也未说明非营利组织将获得多少补偿。
4月24日周四
星期四
Miles Brundage · Miles Brundage 与 Grace Werner 合著新文《America First Meets Safety First》：美国需与中国合作确保 AI 负责任发展
Miles Brundage 与 Grace Werner 在 AI Frontiers 发表新文指出，即使美国在某些领域激烈竞争，政策制定者也应承认中国必将拥有强大的 AI 能力。鉴于 AI 的多重风险，美国的利益在于通过合作确保各国 AI 能力的开发与部署负责任的进行。
4月22日周二
星期二
Frontier Model Forum · Frontier Model Forum 推出前沿 AI 框架技术报告系列
Frontier Model Forum 启动前沿 AI 框架技术报告系列，计划在未来数月内陆续发布四份报告，分别覆盖风险分类与阈值、前沿能力评估、缓解措施以及第三方评估。该系列旨在说明不同组织情境下如何有效落地前沿 AI 框架，并推动实施标准的形成。目前已有 12 家主要 AI 开发商发布了各自的前沿 AI 框架，其中包括 Google DeepMind 的 Frontier Safety Framework、Anthropic 的 Responsible Scaling Policy 和 OpenAI 的 Preparedness Framework。
3月5日周三
星期三
Nicholas Carlini Writing · Nicholas Carlini 离开 Google DeepMind 加入 Anthropic
在 Google DeepMind 工作七年的对抗机器学习研究者 Nicholas Carlini 宣布离职并加入 Anthropic 一年，继续从事安全与隐私方向的研究。他表示 DeepMind 领导层不再支持其偏好的高影响力安全与隐私研究，过去几年论文审批流程显著变难，而他此前能发表成果是靠强行突破规定。Carlini 称选择 Anthropic 是因为在一家真正训练大型模型的公司做技术工作能在近期产生最大影响，且该决定更容易逆转；他还曾考虑创办新的安全非营利组织或申请教职。