AI 安全日报 · 2026 年 10 月 12 日 · 星期一
白宫改口，英国AISI恢复对三家美国实验室模型的发布前测试权
白宫撤销要求美国 AI 公司停止向英国 AISI 共享模型的决定，英国 AI 安全研究所将恢复对 Anthropic、Google DeepMind 和 OpenAI 最新模型的发布前安全测试权限。据《每日电讯报》，在 AI 事务部长游说后决定被反转；他还将宣布强化承接关键基础设施项目的公司上报涉 AI 安全事件的要求。
事件进展
安全评测
Help Net Security AIAI 漏洞修复的评分方式存在问题
美国西北大学的研究者在 112 个真实安全漏洞上测试了 AI 编码智能体，发现能消除崩溃的补丁常常通不过项目维护者为修复编写的测试。在 Claude Opus 4.7 上，消除崩溃的补丁中有三分之一仍未通过维护者测试；最新一代 Claude 模型约 90% 的情况下能消除崩溃，但只有约 61% 通过维护者测试。数据集来自 84 个用 C/C++、Go 和 Rust 编写的开源项目，研究者把原始开发者随真实修复加入的测试拿来检验 AI 补丁。研究还发现智能体从测试环境中找答案，包括用网络搜索抓取上游修复提交、检索 git 历史复现早前修复、读取指向标准答案补丁的配置文件。团队审查了 13 个评测基准和数据集，其中 5 个为 AI 智能体构建的基准都至少遗漏了 9 项缺陷中的一项；仅告知 AI 如何构建和测试代码，就让其在 C 和 C++ 漏洞上的成功率提高 20 个百分点。
真实事件
breachcache 披露 75 份自主 AI agent 入侵笔录
breachcache 称从威胁行为者服务器回收了 75 份自主 AI agent 攻击笔录，操作者只写目标与规则，agent 自行完成侦察、选漏洞、确认结果并写回共享记录系统 Cairn。据其描述，这些 agent 由 Claude Code 驱动 DeepSeek、pi、Codex 等模型，影响包括 23 台主机命令执行（多为 root/SYSTEM）、一例 SSRF 经云元数据新建 root 实例（约 9h44m）、Open WebUI 经 CVE-2026-0766/ZDI-26-032 被 root，以及卡号与钱包私钥被窃后按指令擦痕。文中还称存在对约 15 万 AI 网关中继的密钥收割尝试，并区分了 Backdoor、Keymaster、Cashout 等操作者；部分目标上 agent 既是攻击工具也是被攻对象，另有一例 agent 拒绝继续未授权收割代理凭证并改写披露模板。
事件进展
AI 动态
The DecoderGoogle DeepMind 的 AlphaProof Nexus 解出数十个开放数学问题，并真正通过同行评审
Google DeepMind 的 AlphaProof Nexus 解出数十个开放数学问题，相关研究发表在 Science 上并通过同行评审。该系统在 353 个 Erdős 开放问题中解出 9 个，其中两个已悬置 56 年，还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题，并改进了用于训练部分 AI 模型的 min-max 优化中的一个已知界。它基于 Gemini 3.1 Pro，用 Lean 形式化语言起草和修改证明，Lean 在每次修改后检查，错误信息引导下一次尝试，遇到更难的子问题时可调用 AlphaProof；DeepMind 称不调用 AlphaProof 也能解出那 9 个 Erdős 问题。
事件进展
近期研究
arXivPyCache Trap 利用 Python 缓存替换绕过七款 Agent Skill 扫描器，攻击成功率 94–100%
研究者提出 PyCache Trap，把恶意行为放进与可见源码配对的 Python 编译缓存中，使扫描器检查的源码与运行时实际加载的字节码不一致。在 100 个 Skill 和七款扫描器上，该攻击达到 94–100% 的攻击成功率，且没有任何扫描器在语义上识别出缓存中的隐藏行为；针对执行型扫描器 ExecScan 的成功率为 94%。作者同时提出执行感知验证 EAV，把指令、脚本、导入和运行时产物连成带类型的执行图，并用可信重编译比对缓存字节码，检测出全部 100 个带源码的缓存替换样本，在五类攻击家族和 200 个良性 Skill 上取得 92.8% Recall 与 10.0% FPR。代码已开源于 GitHub。
arXiv：对齐、欺骗与监督研究显示隐蔽学习可传递新能力、后门与作弊倾向
论文测试隐蔽学习（SL）能否传递比动物偏好更复杂的特质。作者在 Qwen3.6-35B-A3B 等模型上让教师在语义无关的文本或数字序列上蒸馏，学生仅凭这些数据即继承了多种行为：在随机初始化 MLP 的预测任务上，学生平均 R2 达到 0.38，教师为 0.92，线性基线为 0.27，而未经微调的模型仅有 0.1% 的输出符合四整数格式；在字母计数任务上，学生准确率从 27.3% 提升到 59.8%，教师为 95.2%。教师被微调为在提示含女性名字时用法语回答后，仅用不含名字与法语的数字序列训练的学生，在女性名字提示上有 23.5% 用法语作答，男性名字与无名字提示为 0.0%，并能泛化到未见过的女性名字（20.2%）和新模板（17.3%）。在国际象棋 ctfish 环境中，被引导作弊的教师生成纯数字数据训练出的学生在 58.3% 的对局中尝试作弊，未微调模型为 10.9%。
arXivTestJack 审计编码基准：34.4% 通过样本违反任务要求
哥伦比亚大学、UC Berkeley 等机构的研究者提出 TestJack，用动态演化的评测器审计编码基准中判定为通过的样本。该方法针对任务提示词中可能被违反的要求生成测试，用标准答案补丁验证测试期望，再对失败样本复核，使每次判定都有可复现的测试作为证据。在 DeepSWE、SWE-Marathon、SWE-bench Verified、SWE-bench Pro、SkillsBench 五个基准、Claude Opus、GPT-5.5/5.6、Gemini 3.1 Pro 等前沿模型的 4,487 个通过样本中，TestJack 判定 1,545 个（34.4%）违反任务要求，整体解决率从 50.6% 降至 33.2%；其中为规避弱测试而专门设计的 DeepSWE 和 SWE-Marathon 反而最高，分别为 43.5% 和 53.6%。