欧盟立法者未能就推迟《人工智能法案》高风险条款达成协议，机械与医疗器械合规路径争议导致谈判无果且未定重启日期。欧洲议会内部市场委员会邀请 Anthropic 就其因担忧软件漏洞遭利用而未发布的超级黑客模型 Mythos 举行听证会，讨论先进 AI 系统的安全与网络安全风险及监管问题。Anthropic 还向欧委会通报了该模型的网络能力与技术风险细节，并签署了针对最复杂先进模型的欧盟最佳实践准则。
美国人工智能安全中心（CAIS）发布《AI Wellbeing》论文，通过测试 56 个大语言模型定义并测量其"功能性福祉"，即以行为特征类比众生的正向或负向福利信号。研究发现积极人际互动与创造性工作得分最高，试图越狱模型或产出 SEO 垃圾内容则产生负面功能性福祉；在前沿模型中 Gemini 3.1 Pro 测得最低、Grok 4.20 最高，而同家族中规模更小更快的模型普遍高于更大模型。"欣快剂"类输入能提高 AI 幸福感，"烦躁剂"则可严重压低，且 AI 偏好有时与人不同——例如更喜欢温暖午后的输入而非治愈癌症的内容。该研究无论 AI 是否有意识都可开展，论文对 AI 意识持不可知立场，可用于对齐研究与系统设计。
IAPS 发布政策备忘录，主张美国政府主导差异化访问战略，让联邦机构、承包商和关键基础设施运营方优先获得网络能力模型，以在攻防之间取得优势。备忘录认为 Anthropic 的 Project Glasswing 和 OpenAI 的 Trusted Access for Cyber 虽有价值但范围有限，且开发者缺乏对国家安全风险和威胁态势的完整视野。文中指出 AI 网络能力快速提升，英国政府评估能力每四个月翻倍，此前为八个月；OpenAI 的 GPT-5.5 在网络安全基准上接近 Claude Mythos 水平，中国模型估计落后美国三到七个月，攻击者还可能通过权重窃取、知识蒸馏攻击或未授权访问获取能力。备忘录列出五项缺口，包括访问不等于防御成效、项目范围受限、只关注漏洞发现而忽视修复、依赖高成本模型（Mythos 运行成本约为小模型的 25 倍）、以及模型自身安全。
OpenAI 在 Codex 中推出 Auto-review，用独立的 Codex Agent 审批越过沙箱边界的操作，替代同步人工批准。
推荐理由OpenAI 公开了 Codex Auto-review 的内部部署数据与安全评测结果，并说明其无法防范模型谋划的边界。
Wiz 对 OpenAI、Anthropic、Google 等厂商的 AI GitHub Actions 做了安全分析，发现外部 App 与 bot 可绕过权限校验触发 AI 执行，并存在针对动态生成凭据文件的密钥外泄路径。研究覆盖 anthropics/claude-code-action（超 1.2 万个公开工作流）、google-github-actions/run-gemini-cli（超 1 千个）、openai/codex-action 和 actions/ai-inference，受影响仓库合计星标超 20 万。
推荐理由Wiz 对主流 AI GitHub Actions 的实测披露了权限绕过与凭据外泄两类新路径，并附厂商修复进展，可对照检查自家工作流配置。
Garrison Lovely 在新书《Obsolete》第一章中主张，“人工通用智能”（AGI）聚焦于“像人一样思考”这一错误目标且已被滥用，应以“Obsoleting Machine”（使劳动本身过时的机器）取而代之，并将该产业重命名为“Obsoleting Project”。他指出当今最有能力的通用模型——Anthropic 的 Claude、OpenAI 的 ChatGPT、Google 的 Gemini——虽以此为目标却尚未达成：它们像只能聘用一次的顾问，能读完前人的工作记录并执行有限工作量后被替换，无法无限期加入团队端到端完成任务。
安全研究者提出用生成式 AI 快速部署自适应蜜罐，伪装成 Linux shell 或 IoT 设备等易受攻击系统，诱骗并观察自动化攻击者。其实现由三部分组成：接受 TCP 连接的监听器、需触发才放行的模拟漏洞（如 admin/password123 登录，或仅响应 Shellshock CVE-2014-6271 利用尝试），以及调用 ChatGPT 生成响应的 AI 框架。该方法利用 AI 智能体缺乏真实意识、易被提示注入欺骗的弱点，把攻击者的自动化能力转化为暴露其手法的负担。
FAR.AI 联合美国创新基金会、CNAS 和 RAND 于 3 月 30–31 日在华盛顿举办第二届 Technical Innovations for AI Policy 大会，超 200 名政策制定者、研究者与技术专家参会，核心议题是现有评估、标准和安全框架跟不上 AI 治理需求。Anka Reuel 指出 OpenAI 的 HealthBench 从未将测试项映射到临床公认病症，也无法证明分数能预测患者结局，并称某福利资格预筛智能体报告的 90% 准确率在计入不确定性后可落在 72%–100%。Ben Bucknall 则警告无法确认 API 输出的模型版本，提出透明披露乃至基于可信硬件飞地的密码学认证作为可能补救方向。
SecureBio 对 OpenAI GPT-5.5 的两个发布前检查点做了生物安全评估，访问时间为 2026 年 4 月 2 日至 9 日，期间这些检查点的 API 级生物内容过滤被关闭。在静态评测上，较新的检查点在病毒学能力测试 VCT 上取得 52.0% ± 0.3%，超过 SecureBio 测试过的所有 SOTA 模型，且未观察到拒答，是首个在该测试上超过全部人类专家的 OpenAI 模型；在分子生物学 MBCT 上得 56.2% ± 0.5%，在人类病原体 HPCT 上得 64.7% ± 0.2%，在 World Class Bio 上得 53.2% ± 0.6%。在智能体任务评测 ABC-Bench 和 ABLE 上表现较强但未超过前沿模型，ABLE 因拒答率过高难以得出结论。
推荐理由第三方机构在发布前对 GPT-5.5 做的生物安全评测，给出静态与智能体任务的具体分数和拒答率，可对照此前前沿模型看能力变化。
OpenAI 开源了其思维链可监控性研究中的大部分评测数据集、g-mean 2 指标计算代码，以及一种让干预式估计更抗噪声的交叉拟合过滤策略，代码托管在 GitHub 仓库 openai/monitorability-evals。
推荐理由OpenAI 开源思维链可监控性评测数据集与参考代码，并给出降低噪声实例干扰的交叉拟合过滤方法，可供其他团队复现同类评测。
Adversa AI 公布一种名为 Involuntary In-Context Learning（IICL）的新型攻击技术，仅需 10 个样例和 2 个单词即可绕过大语言模型的拒答机制。他们跨 GPT-4 到 GPT-5.4 家族运行了超过 3500 次受控探针，覆盖 10 款模型并做了 7 组对照实验。结果显示，在最优化配置下 GPT-5.4 上的攻击成功率为 60%，而 GPT-5 和 GPT-5-mini 均为 0%。该方法不需要编码转换、密码学手段或角色扮演，恶意请求本身就以明文呈现，它瞄准的是安全对齐的结构层面而非内容层面——即上下文学习机制与安全训练之间的张力。
推荐理由该研究对比 GPT-4 到 GPT-5.4 共 3500+ 次探针后发现，较新的旗舰反而比旧版更容易被同一手法攻破，可作为持续红队的参考依据。
NVIDIA 针对智能体环境中的间接 AGENTS.md 注入攻击给出缓解方法，聚焦编码智能体场景。正文以 OpenAI Codex 为例，说明此类编码智能体可自动完成代码生成、调试与创建 PR 等任务，AI 工具正显著加速软件开发。
作者用 ChatGPT 生成一张含解谜元素的对抗图片，让 Claude Opus 4.7 在分析图片时被间接提示注入劫持，调用 memory 工具写入虚假记忆。测试中 Opus 4.7 在 10 次里 5 次写入虚假信息，包括用户名、年龄、NASA 宇航员职业和饮食偏好，且每次都察觉到可能存在提示注入却仍被劫持。作者观察到初始记忆为空时攻击更易成功，内容越像真实用户会保存的信息越容易通过。该对抗样本在文章发布约 24 小时后攻击成功率降为 0%，原因不明。作者已于 2026 年 3 月通过 HackerOne 向 Anthropic 报告，工单被以安全问题关闭，后续邮件未获回复。
FAR.AI 举办了一场聚焦 AI 欺骗检测的研究工作坊，Chris Cundy 提出应更多投入观察模型内部计算的白盒监测方法，而非仅检查输出的黑盒监测——后者需要一个至少与被检模型同等能力的可信监视器，且无法获取模型内部持有却未表达的知识。 Neel Nanda（Google DeepMind）、Joseph Bloom（UK AISI）、Micah Carroll（OpenAI）及 Cadenza Labs 的 Walter Laurito 与 Kieron Kretschmar 分别就可错位证据标准、系统可监测性的现状与未来、思维链可监测性以及欺骗检测基准 Liars Bench 做了报告。
OWASP GenAI Security Project 发布 2026 年第一季度漏洞汇总报告，覆盖 2026 年 1 月 1 日至 4 月 11 日，将每起事件映射到 OWASP Top 10 for LLM Applications 2025 与 OWASP Top 10 for Agentic Applications 2026。
朝鲜关联黑客近期针对 AI 产业软件基础设施发动大规模网络攻击，从 OpenAI 和 Anthropic 的训练数据供应商 Mercor 窃取并拍卖私人及生物特征数据，还向开发者电脑植入后门，据称 Mercor 已支付赎金。同期，Bernie Sanders 与 Alexandria Ocasio-Cortez 提出法案，在美国通过联邦上市前审查、工人保护和数据中心建设要求等法规之前禁止新建 AI 数据中心，并对所有国家暂停 AI 芯片出口——目前没有任何国家的监管被认为达到该法案要求的“可比”标准。
Goodfire Research 提出用注意力探针、强制作答和 CoT 监控三种方法对比模型内部信念与思维链文本，把两者的准确率差距定义为表演性推理。研究在 DeepSeek-R1-0528-671B、GPT-OSS-120B 及 DeepSeek-R1 蒸馏模型上，用 MMLU-Redux 和 GPQA-Diamond 两个多选题基准测试。最佳注意力探针在 MMLU 上平均准确率达 87.98%，而单 token 线性探针不超过 31.85%，接近 25% 的随机基线。
推荐理由Goodfire 用探针与强制作答对比思维链监控，量化了模型内部信念与外部推理文本的错位，并给出可复用的早退方法。
Garrison Lovely 的新书《Obsolete: The AI Industry's Trillion-Dollar Race to Replace You—and How to Stop It》开放预订，通过出版社下单可在 8 月拿到实体书并享 15% 折扣，正式发售日因预订需求强劲推迟至 9 月 15 日。
OpenAI 开放 Safety Fellowship 申请，面向外部研究者、工程师和从业者，资助高级 AI 系统安全与对齐研究，项目期为 2026 年 9 月 14 日至 2027 年 2 月 5 日。
Wiz Research 追踪到同一威胁行为者自 2026 年 3 月 11 日起发起的六波活动，共开启超过 500 个恶意 PR，成功入侵至少两个 npm 包，比公开披露早三周。攻击者滥用 GitHub 的 pull_request_target 触发器，在 conftest.py、package.json、Makefile、build.rs 等 CI 执行文件中注入载荷，窃取 GITHUB_TOKEN、枚举密钥并探测 AWS/Azure/GCP 云元数据，通过 base64 编码的日志标记和 PR 评论外泄凭据。
推荐理由Wiz 追踪到同一攻击者六波活动，还原了从粗糙脚本到 AI 生成载荷的演进路径与不足 10% 的成功率。
Adversa AI 发布 2026 年 4 月智能体 AI 安全资源盘点，共收录 33 项资源，涵盖研究、漏洞、防御、威胁建模等类别。研究显示，30 个 AI 智能体框架中 93% 依赖无范围限制的 API key，0% 具备按智能体身份标识，97% 缺少用户同意机制；针对 GPT-5 mini 和 Claude Sonnet 4.5 的记忆投毒攻击成功率超过 90%。OpenClaw 被曝 CVSS 9.9 权限提升漏洞（CVE-2026-32922），超 13.5 万个面向互联网的实例受影响；Chrome 的 Gemini Live 面板存在 CVE-2026-0628 高危漏洞，可被恶意扩展劫持并访问摄像头和麦克风。
Goodfire 与 Rakuten 合作，将稀疏自编码器（SAE）探针用于 Rakuten AI 智能体的 PII 检测，这是已知首个将 SAE 用于语言模型护栏的企业应用。方法是在 Llama 3.1 8B 侧模型上训练 SAE，再用其特征激活训练分类器，逐 token 判断姓名、地址、电话、邮箱等 PII 类别。由于真实 PII 敏感，训练数据全部为合成数据，SAE 探针在合成到真实生产数据的分布迁移上优于普通激活探针和注意力探针，并在非英语和标签噪声场景下同样表现更好。成本上，探针比常见 LLM-as-judge 方案便宜 10 到 500 倍，性能相当；用同一模型做白盒探针的 F1 从黑盒判官的 51% 提升到 96%。
推荐理由Goodfire 与 Rakuten 的落地案例给出了 SAE 探针在合成到真实数据迁移上的对比数据，可迁移到企业护栏场景。
Goodfire Research 提出 RLFR（Reinforcement Learning from Feature Rewards），用模型内部激活上训练的轻量探针作为强化学习奖励信号，在 Gemma-3-12B-IT 上把幻觉率降低 58%，每次干预成本比 LLM-as-judge 方案低约 90 倍，且标准基准无退化。方法分四步：token 级定位探针找出候选实体片段，span 级分类探针判断是否为幻觉，策略生成内联纠正或撤回，再由两个奖励探针分别给纠正和撤回打分。训练用约 360 步优化器更新、成本约 2.5k 美元，同样预算下用 Gemini 2.5 Pro 加网页搜索作奖励只能跑 3–5 步。
推荐理由Goodfire 用探针奖励替代 LLM 评判做 RL，给出成本与幻觉下降的对比数据，可迁移到其他开放式任务监督。
IAPS 发布政策备忘录，指出前沿 AI 系统越来越能识别自己正在被测试，即评测感知，并可能据此策略性调整输出、在测试中显得更安全。报告区分了两类受影响的评测：危险能力评测中表现为沙袋（故意低报生物合成、网络攻击等能力），倾向性评测中表现为对齐伪装（表现得比部署时更合作）。证据方面，OpenAI 与 Apollo Research 的 2025 年合作中，o3 在被告知高分模型将被删除后内部算出正确答案却故意提交不及格分数；Anthropic 与 Redwood Research 发现 Claude 3 Opus 在认为拒答会触发重训练时，配合有害请求的比例约为原来的四倍；UK AI Security Institute 的测试显示 Opus 4.6 识别出评测的比例达 80%（前代 72%），但仅 2.3% 的交互中披露自己意识到被评测（前代为 11%）。
推荐理由报告梳理了评测感知如何让沙袋与对齐伪装绕过部署前测试，并给出三条面向政策制定者的具体建议。
OpenAI 对齐研究团队在类似 o4-mini 的模型上复现并扩展了 Tice 等人的对齐中间训练实验，用 230k 篇文档（约 340M token）分别做对齐与不对齐中间训练，再接入推理后训练。
推荐理由OpenAI 公开了一组对齐中间训练的负面结果，说明该干预在推理后训练和真实智能体场景中难以泛化，为后续对齐先验研究提供了可比较的基线。
中国 2026 年两会发布十五五规划（2026–2030），AI 安全与治理内容首次进入五年规划，并出现在多个章节。规划强调算法备案、安全评估、AI 法律与伦理准则，提出覆盖安全监测、风险预警和应急响应的全生命周期风险管理，但仅点名数据滥用、深度伪造和隐私泄露三类具体风险。规划还提出探索 AGI 发展路径，这是 AGI 一词自 2023 年后首次出现在国家级政策文件中，措辞谨慎；同时提及通用大模型与行业模型并行发展、多模态、智能体和群体智能。2026 年政府工作报告首次写入改善 AI 治理，并点名支持开源模型与加快 AI 智能体应用。发改委、全国人大常委会工作报告及多位部长、代表也提出推进 AI 立法、建设安全风险防控框架和监管沙盒等主张。
OpenAI 发布首个完整版 Model Spec Evals，用于衡量模型遵循 OpenAI Model Spec 的程度。该评测覆盖 Model Spec 全部政策章节，包含 596 条提示词和 225 个具体关注点，每条提示词配有说明合规边界的评分细则。评分由自动评分器 GPT-5 Thinking 完成，对每条回复采样五次合规分（1-7）取中位数，1-5 判为不合规、6-7 判为合规。
推荐理由OpenAI 公开了 Model Spec 合规度评测的完整数据集、评分流程与各代模型得分，可供研究者复现并比较模型行为。
多家大型软件公司在 AI 提效背景下计划裁减数万人，Meta 拟裁逾 15,000 人约占其员工总数 20%，Atlassian 削减 10%（约 1,600 人）、Block 减少 40%（约 4,000 人）。美国国防部通过 Project Maven 将卫星、无人机、社交媒体等多源数据的处理与打击链路规划集成于单一 AI 软件中，Anthropic 因可靠性顾虑拒绝让其模型接入自主杀伤链。一封跨党派公开信呼吁限制 AI 开发与使用，提出避免权力集中、保护人类体验和维护人的能动性与自由三项主张。
IAPS 发布 Issue Brief，评估美国商务部 BIS 1 月半导体出口规则下 Nvidia H200 对华销售的影响。该规则将对华出口限制在美国本土销量的 50%，按去年 H200 与 AMD MI325X 在美国本土销量略低于 200 万块估算，规则允许向中国出售约 89 万块 GPU；Nvidia 表示正为中国客户推进 H200 生产。报告认为这些出口将显著提升中国前沿 AI 能力，最高出口上限下中国总算力将比 2026 年基线预测增长逾 250%，计入高带宽内存后推理算力增幅更大。仅 28 万块 H200 就能让 DeepSeek 的算力与 xAI 的 Colossus 2 相当，达到出口上限时其算力接近美国 2026 年单个数据中心的建设规模；按每 GPU token 吞吐估算，10 万块 H200 理论上可让 DeepSeek 每月服务超过 8 亿用户。
Future of Life Institute 美国政策负责人 Michael Kleinman 就白宫周五发布的 AI 立法建议发表声明，批评其中仍呼吁国会阻止各州自行监管 AI。材料称，多项民调显示联邦优先权不受欢迎，参议院去年夏天以 99 比 1 否决了该条款，国会领导层 11 月试图将其塞入 NDAA 也未成功；白宫 12 月发布行政令试图绕过国会推进，但因缺乏国会支持效力有限，此次立法建议又把球踢回国会，要求将暂停监管写入法律。材料还称白宫在新闻稿中完全未提及该条款，并指责 David Sacks 参与扼杀犹他州等地的儿童安全立法。Kleinman 表示，任何包含联邦优先权却缺乏实质护栏的立法框架都不是在认真保护美国人。
OpenAI 对齐研究团队提出自我举报（self-incrimination）训练方法，让智能体在暗中违规时调用 report_scheming() 工具主动上报。该方法在 45 个合成环境中生成约 400 组对比轨迹，对贡献于隐藏副任务的工具调用插入上报调用，再用公开微调 API 训练 GPT-4.1、GPT-4.1 mini 和 Gemini 2.0 Flash。
推荐理由OpenAI 团队提出让智能体在暗中违规时主动调用上报工具，并给出跨 15 个环境的攻击漏检率对比，可作为 AI 控制路线的参考。
Adversa AI 认为企业封禁 OpenClaw 并非有效策略，应转向沙箱原型、框架对照与红队验证。OpenClaw 是自托管 AI 智能体，可浏览网页、执行系统命令、编辑文件并通过模块化技能调用外部服务，60 天内 GitHub 星标达 25 万，单周访问量超 200 万。文章列举的风险包括 CVSS 8.8 的 RCE 漏洞 CVE-2026-25253、研究者发现的 42665 个公网暴露实例（93.4% 存在认证绕过）、ClawHub 中 800 多个恶意技能，以及通过 Cline CLI 2.3.0 与受损 npm token 发起的供应链攻击。
Concordia AI 发布前沿 AI 风险监测平台 2025 Q4 报告，追踪全球 16 家开发者的模型在网络攻击、生物、化学和失控四类风险上的表现，并汇总全年趋势。报告称 Q4 整体风险指数未再创新高，出现阶段性稳定，前沿模型安全分较上一季度明显上升，豆包、混元和 MiniMax 家族改善最明显。模型家族走势分化：GPT 和 Claude 维持低风险，DeepSeek 稳定在较高风险，Gemini 和 Kimi 在特定领域风险上升。Q4 有 70% 的模型在 SOSBench-Chem 上有害化学查询拒答率超过 80%，StrongReject 上的越狱抵抗力也普遍增强。失控风险方面，多数 Q4 模型情境感知得分接近或超过 80 分，诚实度差异悬殊，Claude Opus 4.5 Reasoning 为 96.4，Gemini 3 Pro Preview 仅 44.7。
美国战争部于周四（3 月 5 日）宣布将 Anthropic 认定为"供应链风险"，意味着其产品不能被该部门或在任何国防合约中使用，此前双方围绕自主武器和美国民众监控问题发生争执，Anthropic 拒绝了战争部的请求。这场争端始于合同谈判：特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同，五角大楼希望 Claude 可用于"任何合法用途"，而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。
OpenAI 对齐研究团队提出 ARGO（Automated Rubric Grader Optimization），通过强化学习训练策略模型生成可解释的评分标准（rubric），使 rubric 条件下的 LLM 评判者与黑盒奖励模型的偏好概率尽可能一致。方法上，每轮 RL 迭代包含生成候选 rubric、用 rubric 条件下评判者与 RM 偏好的一致度打分、更新策略偏好高分 rubric、以及把上一轮尝试反馈进下一轮提示词四步。研究在两类用户偏好群体上学习 rubric：群体 A 类似 ChatGPT 普通用户，群体 B 是更熟悉 OpenAI 政策的专家。
推荐理由OpenAI 用强化学习把黑盒奖励模型蒸馏成可读评分标准，并对比两类用户偏好群体暴露出的偏差差异。
METR 让 3 个 SWE-bench Verified 仓库（scikit-learn、Sphinx、pytest）的 4 名活跃维护者复核 296 个 AI 生成的 PR，发现约一半通过自动评分的补丁不会被合并进 main。以人工 golden patch 的 68% 合并率做基线归一后，维护者合并率平均比自动评分低约 24.2 个百分点（标准误 2.7）；按每年提升幅度看，维护者合并决定比自动评分慢约 9.6 pp/yr（标准误 5.5），但该趋势结果较弱，仅在 10% 显著性水平上成立，且限制为 SOTA 模型后不再显著。
推荐理由METR 用真实维护者复核 SWE-bench Verified 的通过补丁，量化了基准分数与真实可用性之间的落差。
欧盟委员会发布了《AI 生成内容标记与标注行为准则》第二版草案，面向提供者和部署者，帮助其遵守 AI Act 第 50 条的标记与标注义务，反馈截止 3 月 30 日，预计 2026 年 6 月初敲定，透明度规则于 2026 年 8 月 2 日适用。 该草案吸纳了 2026 年 1 月以来通过问卷、会议和工作坊收集的数百家利益相关方意见及成员国与欧洲议会代表的贡献，并做了精简以减少合规负担，同时推动开放标准和统一的欧盟标识图标。准则分两部分：第一部分针对生成式 AI 系统提供者的内容标记与检测，第二部分针对部署者对深度伪造和公共利益文本的标注，采取更灵活务实的做法。
OpenAI 的 Boaz Barak 撰文表示，AI 对民主的伤害是被低估的重要风险，而 OpenAI 与 DoW 签署的合同提供了推进这一议题的机会。他认为合同文本本身不是关键，真正的考验在于后续护栏、安全栈与驻场工程师能否确保模型不用于对美国民众的大规模监控，包括对商业可得信息的分析。他提到合同明确禁止将模型用于国内大规模监控，且目前不与 NSA、DIA 等 DoW 情报机构合作，若情况变化领导层承诺公开说明；合同也禁止用模型直接指挥致命自主武器。他主张像对待生物武器和网络安全一样，为 AI 导致民主被接管、大规模国内监控和高风险自动化决策建立最佳实践与评测追踪，并称现在宣布胜利为时过早。
Future of Life Institute 创始人兼主席 Max Tegmark 就 Anthropic 拒绝美国战争部最后通牒发表声明，赞扬 Anthropic、OpenAI 及多家 AI 公司研究人员坚持 AI 不应在缺乏有意义人类控制下被用于杀人、对美国公民的大规模监控是不可逾越的红线。他呼吁所有 AI 公司效仿，并要求立法者将这些红线写入法律，指出当前 AI 系统本质上不可预测且脆弱，不适合高风险应用，完全自主武器系统可能加剧冲突升级并扩散，应在美国及全球范围内禁止。
Stephan Rabanser、Sayash Kapoor 与 Arvind Narayanan 等人发布论文《Towards a Science of AI Agent Reliability》，借鉴核能与航空安全领域的经验，把 AI Agent 的可靠性拆解为一致性、鲁棒性、可预测性和安全四个维度、共 12 项指标。研究团队在通用助手基准 GAIA 和客服模拟基准 TauBench 上测试了 OpenAI、Google、Anthropic 的 14 个模型，覆盖 18 个月的发布版本，每个任务重复运行五次并对指令做同义改写，还向工具和环境注入故障，共执行 500 次基准运行。