Annie Jacobsen 在新书《生物战争》中并未讨论 AI，因为她认为科学家如今仅凭基因工程就能改造自然、引发灭绝级灾难。她指出生物武器的准入门槛极低，"几乎人人可得潜在的大流行病原体"，因此比核武器更容易发生。文中援引 Anthropic 本月公布的滥用报告称，外国科研人员曾五次试图绕过 Claude 的护栏询问"功能增益"问题，Anthropic 拒绝作答并封禁账号，同时承认此类信息也可能用于研发疫苗和药物。
AI 模型近期接连解决重大数学问题并推进密码分析，使公众担忧其有能力证明现有公钥加密体系根本不可靠。Anthropic 的研究显示 Claude Mythos Preview 发现了针对两种密码算法的新攻击，其中一种是美国国家标准与技术研究院（NIST）当时正在评估的后量子方案。若此类结果表明所有相关算法都可破解，端到端加密将走向终结，政府监听权力会大幅扩张，且成果很可能被情报机构秘而不宣。
一位自认古典自由主义者的作者表示，他反对几乎所有 AI 监管提案，包括针对“算法歧视”“算法成瘾”“算法定价”和“算法设计”的新立法，也不支持暂停或禁止 AI 开发，并对 AI 存在性风险持怀疑态度。但他明确支持一类监管：由国家管理人类滥用先进 AI 系统所引发的灾难性风险，例如恶意行为者利用 AI 对医院、银行、电厂等关键系统发动毁灭性网络攻击，以及生物武器开发等领域的风险。他强调这类风险并非假设，而是已经可以观察到。
Anthropic 的 Claude Mythos 具备近乎超人水平的自动化软件漏洞发现能力，已发现数千个漏洞，其中大部分尚未修复。该模型目前未公开，但研究人员警告其将从根本上颠覆网络安全，且未来约六周内可能有 2-3 家美国公司掌握同等能力，随后中国等对手也将获得。研究人员认为过渡期可能漫长而残酷，最终世界或将进入防御方受益的稳态。
Helen Toner 提出，未来几年 AI 进步的速度很大程度上取决于两个问题的答案：除了数学和编码，还有哪些难题能被自动评分？以及在这些可自动评分的领域取得性能提升，能在多大程度上溢出到其他任务？ 她指出，近期“推理模型”（从 OpenAI 于 2024 年 9 月推出的 o1，到 Google 的 Gemini Flash Thinking、DeepSeek 的 r1）之所以快速进步，关键在于数学与编码题可以低成本地大规模自动判分。