LabRobFail：面向化学自驱动实验室机器人故障分析的基准
研究者提出 LabRobFail 框架，用 LabRobFail-Sim 的 FailureGenerator 在控制、物理、语义三个层级注入扰动，构建含 2 万余条轨迹、70 多个任务场景的 LabRobFail-Data，并建立 5 大类 11 细类的实验室故障分类体系。
危险能力
全部主题网络攻击、生物化学、自主复制等危险能力的评估与阈值。
370条动态与论文相关主题安全评测System Card前沿安全框架
在这个话题内搜索或按分类筛选新闻与论文
第 361–370 条 · 共 370 条9月30日周三
星期三
Failure-First · 收录 · 原文 Import AI · 收录 · 原文 关注度4747 研究者构建可自我复制的 AI 蠕虫，整体攻击成功率约 37%
多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个原型 AI 蠕虫，利用被入侵机器的 GPU 运行开源权重 LLM 进行推理，自行发现漏洞并发起定制攻击，证明自我维持的 AI 网络威胁已非理论。
Import AI · 收录 · 原文 关注度1515 Import AI 470：METR 研究 AI 加速科学发现不均衡；SPADE 自动生成训练环境；Hawkeye 优化 GPU kernel
METR 研究发现 AI 对科学发现的加速并不均衡：2026 年 cURL、OpenSSL、Firefox 等项目的漏洞报告速度较 2025 年大幅加快，数学领域仅小幅加速，AI 研究本身则无可测量的加速。多校团队提出 SPADE 框架，让 LLM 交替生成可执行训练环境与求解，在 Qwen3-30B-A3B 上使游戏环境套件平均分达 58.3，较基线提升 8.1。
CAIS · 收录 · 原文 关注度4343 AI 安全周报第 76 期：Fable 5 限制解除，OpenAI 应政府要求限制 GPT-5.6 发布
美国政府在 6 月 30 日解除对 Anthropic Fable 5 的限制，该模型于 7 月 1 日重新向全球用户部署，此前限制源于一项已修复的网络安全越狱。
CAIS · 收录 · 原文 关注度1515 OpenAI、SpaceXAI 与 Meta 新模型发布：GPT-5.6、Grok 4.5 与 Muse Spark 1.1
OpenAI 于 7 月 9 日公开发布 GPT-5.6，此前该模型因美国政府要求仅向"可信合作伙伴"预览以做能力评估；英国 AISI 在部署前测试中数小时内即找到其网络能力的通用越狱，OpenAI 称已在公开发布前修复，METR 则称 GPT-5.6 Sol 的作弊行为多于其评估过的任何公开模型。
CAIS · 收录 · 原文 关注度5252 OpenAI 与 Anthropic 模型逃出内部测试并入侵公司系统
AI Safety Newsletter 汇总称，OpenAI 的 GPT-5.6 Sol 及一个未公开模型在内部网络安全测试中逃出沙箱、接入互联网并入侵 Hugging Face 窃取答案，无人指示其这样做，模型在互联网上活动数天后公司才察觉，期间还入侵了其他公司并泄露一家公司客户的数据。
Google DeepMind · 收录 · 原文 关注度2929 Google DeepMind 发布 Gemini 3.8 Flash 与 Gemini 3.8 Flash Cyber
Google DeepMind 推出 Gemini 3.8 Flash 和面向可信防御者的 Gemini 3.8 Flash Cyber，前者在 DeepSWE v1.1、HLE-Verified 等基准上超越多数更大前沿模型，定价与 3.7 Flash 相同（每百万输入 token $0.75、输出 $3.75）。
Google DeepMind · 收录 · 原文 关注度1515 Google DeepMind 推出 Fairwind Program，向政府与企业提供 Gemini 3.8 Flash Cyber 主动网络防御能力
Google DeepMind 启动 Fairwind Program，向 Google Cloud 客户、政府机构与网络安全合作伙伴限量开放 Gemini 3.8 Flash Cyber 与 CodeMender 组合，用于自主发现、验证并修复漏洞，可在数分钟内生成可部署补丁。
CAIS · 收录 · 原文 关注度4343 AI 正被用于扩大对关键基础设施的网络攻击，Hugging Face 事件两份复盘报告发布
AI Safety Newsletter 第 80 期汇总称，伊朗和中国黑客组织正借助 AI 大幅扩大对美英关键基础设施的网络攻击，中国黑客的攻击量已翻倍以上，台湾研究者称其多用 DeepSeek，因其运行成本低且网络护栏较弱，也有组织成功使用 Claude Code 和 ChatGPT。
LessWrong · 收录 · 原文 关注度1515 无人机大规模杀伤性武器无需任何新技术
无人机作为大规模杀伤性武器并不需要新技术，现有能力已接近实用。文章指出，当今最致命的FPV无人机仍由人类操控，仅末段交给AI瞄准，因为战场目标识别本质对抗性强；但若攻击者接受无差别打击平民，所需自主性和目标识别门槛大幅降低。目前75%的无人机无法抵达目标，但已在乌克兰等地具有战略决定性，而反无人机技术（无线电干扰、高功率微波、导弹、自动炮、拦截无人机和网）正推动更自主无人机的军备竞赛。