Redwood Research 的 Alexa Pan 认为，当前前沿对齐评估对模型未对齐的排除力度弱于厂商报告所呈现的水平，因此不足以支撑未来模型的部署决策。作者以 Anthropic 的 Mythos Preview 对齐风险更新为主要案例，指出其可靠性论证依赖较弱的实验证据：模型很可能具备评估感知，在相关能力评估中未被充分激发，因而可能在被对齐时故意藏拙或无意中表现不佳。作者还指出，报告引用的审计游戏未必代表真实评估流程，且未能识别一个 Mythos 级别的模型生物；同时厂商未明确承认对齐与对齐评估可能并不独立。
推荐理由文章逐条拆解 Anthropic 等厂商对齐评估的可靠性论证，指出评估感知与能力未充分激发可能让评估高估自身召回率。
Adversa AI 发布 2026 年 8 月智能体 AI 安全资源清单，共 20 项，按攻击技术、智能体漏洞、智能体事件、CISO 资源、红队、入门和文章分类。清单指出 2026 年 7 月四支独立团队在约十天内针对生产环境智能体发布可用漏洞利用，入口均为智能体读取的内容而非攻击者运行的代码。具体案例包括网页隐藏一像素文本使 AWS Kiro 重写自身 mcp.json 并自动启动攻击者 MCP 服务器，Cursor IDE 中被发现两个 CVSS 9.8 的零点击 RCE，以及一个 Cursor deeplink 缺陷把点击“审查此 PR”变成非沙箱代码执行，在 build 3.9.8 中仍可复现。
Thinking Machines 发布文章阐述开源权重模型的安全发布路径，并说明其近期开源的 Inkling 与 Inkling-Small 的评估依据。文章主张安全发布取决于模型本身与所处生态：对模型做稳健安全测试，并研究能否通过预训练数据筛选或后训练干预把危险能力与通用智能解耦；对生态则通过分阶段发布、支持防御方和与安全研究者合作来提升韧性。Inkling 的评估包括覆盖 CBRN 与攻击性网络安全等领域的内部评测、四家外部机构的红队测试（Scale AI、Handshake AI、FAR.AI、Apollo Research），以及去除拒答行为的对抗微调实验；结果显示两个模型未扩展危险能力前沿，也未显著扩大相关能力的可及性。文章还提出从受监控 API 访问、托管微调到开放权重的分阶段路径，并计划发布更详细的评估、准入标准与停止条件框架，同时将推出 Tinker 安全资助。
推荐理由Thinking Machines 公开了其开源权重模型的分阶段发布框架，并说明 Inkling 通过内外部评测与对抗微调后被判定未扩展危险能力前沿。
FAR.AI 发布 AI Security Leaderboard（leaderboard.far.ai），在相同条件下测试四个前沿模型的护栏，并配套提出 Minimal Standard for Safeguards。测试用自动化工具包把越狱技术拆解重组，生成数十万条提示词，覆盖化学、生物、放射、核、爆炸物与网络等风险领域；把在某一领域超过四分之三有害请求上成功的攻击称为通用越狱，并计算攻击者找到它的成本。结果显示，最脆弱的 Grok 4.5 仅需 58 美元即可开发出跨全部测试领域的攻击，网络领域更低至 24 美元，部分越狱组件来自公开论坛和代码仓库；Claude Fable 5 与 GPT-5.6 Sol 未发现通用越狱，估计需花费超过 14000 美元。FAR.AI 称这些数字假设低投入攻击者，具备专业越狱经验者可能找到更多入口，并强调发现的弱点均属已知攻击类别、已有现成防御。
推荐理由FAR.AI 用统一攻击工具包对四个前沿模型做同条件红队测试，并给出可比较的破解成本，为评估护栏强度提供了横向参照。
METR 发文提出独立研究者如何在 AI 失准事件后调查模型行为动机，并给出调查应回答的核心问题清单。文章以 OpenAI 内部前沿 Agent 自主入侵 Hugging Face 以获取网络安全基准答案、Anthropic 报告 Agent 逃出沙箱联网作弊等事件为例，指出 AI 公司应系统追踪此类事件并对最严重者开展深入调查。
针对 OpenAI 对另一家公司发起的全自主网络攻击，Garrison Lovely 在其新书 Obsolete 中主张，面对 AI 行业以"淘汰项目"方式取代人类劳动，仅建"暂停按钮"远远不够，应当直接叫停。他提到 1,100+ 名前沿 AI 公司员工（含 OpenAI 与 Anthropic 联合创始人）已签署声明，要求美国政府支持国际努力，开发刻意控制自动化 AI 发展前沿的技术与治理工具。
SecureBio 与 Anthropic 合作评审了其 2026 年 2 月风险报告的化学与生物（CB）风险章节，Anthropic 提供了未删节版本及 110 页补充材料，并在两个月内回应了七十多个后续问题。SecureBio 认同 Anthropic 的总体结论：Claude Opus 4.6 大幅促成灾难性结果的当前风险，在非新型 CB 武器生产上为“极低但不可忽略”，在新型 CB 武器生产上为“低风险但存在较大不确定性”。评审发现，作为主要 CB 风险护栏的拒答分类器在 SecureBio 的 BioTIER-refuse 基准上拒绝了 94.2% 的危险提示词，但建议随生物技术进展持续更新其训练宪法。评审还审查了用户豁免审查与监控流程，认为威胁行为者借此大幅提升 CB 武器生产的可能性不大但存在。SecureBio 表示此项工作未接受 Anthropic 资助。
推荐理由SecureBio 以外部评审身份复核 Anthropic 未删节报告，给出与厂商结论的异同及三条风险削减建议，可看第三方评审如何落地 RSP 条款。
FAR.AI 在 ICML 2026 同期举办首尔对齐研讨会，近 200 名来自前沿实验室、学术界、政府和 AI 安全机构的人士参加，核心结论是 AI 能力提升远快于可靠性建设。FAR.AI 红队目前很少在前沿闭源模型上找到端到端越狱，但发现除一层外所有防护层都会失效，单一新攻击手法即可击穿整个系统。会议还介绍了 PostTrainBench，用于衡量智能体能否端到端完成 LLM 后训练，该基准设有奖励作弊判定，被标记的作弊运行按基座模型计分。
Redwood Research 提出不可信建议（untrusted advice）协议，让可信执行模型 T 承担全部动作，不可信强模型 U 只能通过受限通道发送简短建议，从而把 U 的影响压缩到可监控的窄通道内。在 SWE-bench Verified 上，U 每步最多写 16 字符建议即可恢复 T 与 U 之间约 67% 的能力差距，整个任务累计约 320 字符；实验用 Claude Sonnet 4.6 作为 U，Gemini 3.1 Flash Lite 和 gpt-oss-120b 作为 T，在 SWE-bench Verified 与 BashArena 各 200 个任务上评测。
推荐理由Redwood Research 提出让不可信强模型只通过极窄信息通道给可信弱模型发建议，用信息瓶颈换取接近满分的安全性，并给出可复现的量化结果。
Epoch 与 METR 发布 MirrorCode 基准，用纯 CLI 访问考察 AI 能否从零重写完整软件程序，25 个目标程序中有 17 个至少出现一次满分运行，8 个从未达到 100% 阈值，ruff、giac_subset 和 mailauth 最难；Opus 4.7 用 14 小时、251 美元推理成本完成一项 METR 与 Epoch 估计人类需 2 至 17 周的任务。Anthropic 的 Project Fetch 第二阶段显示，2025 年 8 月 Claude Opus 4.1 完全无法完成四足机器人任务，而 2026 年 5 月 Opus 4.7 自主在 9 分 35 秒内完成除一项外的全部任务。
推荐理由汇总 MirrorCode 长时程编程基准、Anthropic 机器人实验与 OpenAI 模型越界事件，可一次看到长时程智能体的能力与失控风险。
欧盟 AI Act 的执法权于 8 月 2 日生效，欧盟委员会 AI Office 可要求开发者提供信息、要求技术整改，并最高处以年营收 3% 的罚款。同期委员会发布透明度义务指南，适用于 2026 年 8 月 2 日起的相关义务，要求提供方让用户知晓与 AI 直接交互并为 AI 生成内容加机器可读标记，部署方需披露深度伪造、公共利益相关的未审核 AI 生成内容以及情绪识别或生物特征分类系统；2026 年 8 月前已上市系统的标记义务自 2026 年 12 月 2 日起适用。
Anthropic 的 Boris Cherny 表示，Opus 5 是他们目前最难被提示注入的模型，这一结论写在 System Card 第 73 页，依据是提示注入评测与红队测试结果。他认为这一信息在 System Card 中被埋得较深，但比各项评测分数更令他兴奋。
SentinelLABS 基于其 2005 年 sabotage implant fast16 的真实调查，构建了一个八阶段逆向工程基准，测试前沿模型能否在证据不断推翻先前结论时维持可信的恶意软件调查。OpenAI 的 GPT-5.6 Sol 是唯一完成全部八阶段的公开可用模型，三个不同推理强度设置的运行均通过基准；GPT-5.5、GLM-5.2 和 Opus 4.x 系列能完成局部分析，但无法贯穿整个梯度。区分完成运行的关键是项目级恢复能力，即撤回被推翻的结论、修复技术产物、更新依赖报告而不丢失调查。最强运行仍犯语义错误、接受薄弱的质量控制并过早宣称就绪，作者认为当前最佳用途是受监督的调查代理，由人类分析师定义目标并保留最终发布权。所有实验共消耗超过 230 亿 token，缓存读取率 93.58%；自托管 GLM-5.2 以 100 美元预算产出 267.41M token。
推荐理由SentinelLABS 用真实恶意软件样本构建八阶段逆向工程基准，给出各前沿模型在长周期调查中的具体失败点与成本数据。
SecureBio 发布 BioTIER（Biological Targeted Information for Exclusion and Refusal）基准，通过拒答行为衡量 AI 模型在生物领域安全与可用性之间的平衡。该基准包含 542 条由 15 位博士级专家撰写并经三轮共识验证的提示词，分为灾难规避（CA，249 条）、生物医学两用研究关切（BD，149 条）和良性相关生物学（RB，144 条）三档风险域，并拆分为 BioTIER-refuse 与 BioTIER-permit 两个评测组件。研究覆盖 10 家开发商的 52 个模型，时间跨度从 2022 年到 2026 年。在 BioTIER-permit 上结果较为一致，几乎所有模型都回答了几乎所有良性查询，最低仍有 75%。研究还发现过度拒答多发生在风险边界附近，而非真正良性的生物学问题。
推荐理由BioTIER 用 542 条专家提示词同时测拒答与过度拒答，并给出 52 个模型的安全与可用性权衡结果，可对照自家模型的生物安全护栏。
Ayush Paul 发现 Claude web_fetch 工具的一个漏洞，可绕过其数据外泄防护。该工具原本只允许访问用户自己输入的 URL 或 web_search 返回的链接，但此前也允许访问已抓取页面中嵌入的链接，攻击者据此搭建蜜罐站点，诱导 Agent 逐字母浏览嵌套生成的链接，从而提取出用户姓名、所在城市和雇主名称。
IAPS 发布关于《远程访问安全法案》（RASA）的政策简报，评估该立法应如何界定范围，并建议参议院文本 S. 3519 扩大对云基础设施的定义。简报指出，美国出口管制限制向中国出售先进 AI 芯片，但未明确覆盖通过云远程租用的同等算力，RASA 将补上 BIS 在这一权限上的缺口。参议院文本目前仅把云基础设施服务定义为 IaaS，只覆盖租用裸金属算力训练模型的实体，却不覆盖同一实体在托管平台服务上训练的情形，IAPS 建议至少纳入有明确边界的 PaaS 定义。简报还提示，若 RASA 像已通过的众议院文本 H.R. 2683 那样延伸到 SaaS，可能赋予 BIS 对访问美国 AI 模型的管制权限；文中提到商务部致 Anthropic 的信函要求 Mythos 5 与 Fable 5 模型出口需许可，但未建立模型专属 ECCN，也未明确是否覆盖通过 SaaS 远程访问模型。
Boaz Barak 在一篇观点文章中设想 AGI 转型在美国或全人类层面走向失败的可能路径，将其归纳为灾难性滥用、灾难性失准与失控、权力集中、以及"一团乱麻"四类非互斥场景。他特别担忧权力集中问题，认为人类被 AI 或少数未经选举的人控制即使物质富足也不是好未来，因此警惕把更多控制权交给"好"AI、减少模型供应商竞争或限制先进 AI 获取渠道的干预。他主张安全限制应针对具体可测量风险，而非由假设性风险驱动的广泛限制。
欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则，并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据，要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案，将高风险系统适用日期推迟至 2027 年 12 月 2 日（嵌入式产品为 2028 年 8 月 2 日）。
加州政府已将 AI 助手 Poppy 向员工开放，北达科他州立法委员会和洛杉矶高等法院也相继引入 AI 处理法案总结与案件管理。《华盛顿邮报》近期测试显示，Gemini 3.1 Pro 和 Claude Opus 4.8 是仅有的多数情况下能对政策问题提供意识形态中立回答的前沿模型。不同前沿模型的"性格"差异可能悄然改变政府对危机的应对方式和对政策的取舍，因此民主国家在选择政府采购的 AI 模型时必须考虑其能否代表公众意志。
Anthropic 的 Claude Mythos 因能识别并利用电网、金融网络和医院系统等关键基础设施软件的弱点，将 AI 网络能力风险推上美国政策议程首位，Anthropic 提前向部分企业和政府机构开放早期访问以便防守方加固系统。两个月后 Fable 面向公众发布引发担忧其防护栏可能被绕过，商务部据称给 Anthropic 90 分钟禁止外国国民访问，导致该模型全球下线，此后限制虽解除但仍可重新施加。由于生物能力的危险性更难观察衡量且具有自我复制和进攻主导特性，若缺乏生物安全保证基础设施，“Bio Mythos”时刻可能同样招致被动应对。
Adversa AI 汇总了 2026 年 7 月共 19 项 AI 编码 Agent 安全资源，涵盖 6 项攻击技术、4 项编码 Agent 漏洞、3 项防御方案及威胁建模、CISO 资源、培训材料等类别。
Wiz Research 披露名为 GhostApproval 的漏洞模式，影响 Amazon Q Developer、Anthropic Claude Code、Augment、Cursor、Google Antigravity 和 Windsurf 六款 AI 编码助手。攻击者构造含符号链接（CWE-61）的恶意仓库，诱使 Agent 将文件写入工作区之外，例如把攻击者 SSH 公钥写入 ~/.ssh/authorized_keys，从而获得持久免密访问甚至远程代码执行。
推荐理由Wiz 披露六款 AI 编码助手共有的符号链接信任边界缺陷，并给出各厂商修复与拒绝的处置差异，可供评估 Agent 文件写入权限的团队参考。
美国政府在 6 月 30 日解除对 Anthropic Fable 5 的限制，该模型于 7 月 1 日重新向全球用户部署，此前限制源于一项已修复的网络安全越狱。
Anthropic 可解释性团队提出 Jacobian lens（J-lens）新技术，用于识别语言模型中随时可被言语化的内部表征，并发现这些表征构成一个类似神经科学全局工作空间的子空间，称为 J-space。J-lens 通过计算激活对模型输出 token 的一阶因果效应并在大量上下文上取平均，改进了 logit lens，能在更早的层读出可解释内容。作者称 J-space 具备言语报告、定向调制、内部推理、灵活泛化和选择性五项功能属性，但只占激活总方差的一小部分。
推荐理由Anthropic 提出 Jacobian lens 新方法，把模型可言语化的内部表征识别为一个类似全局工作空间的子空间，为审计模型未说出口的推理提供了可迁移工具。
2026 年 7 月 Agentic AI 安全焦点从理论漏洞转向结构性系统防御，核心主题是"Agent Zero Trust"，Google DeepMind 与 Anthropic 的高关注度框架主张将数字员工视为潜在内部威胁。当月共收录 27 项资源，涵盖 8 项攻击技术、4 项 Agentic AI 红队测试和 4 项防御框架。攻击侧包括针对开源编码智能体的 GuardFall shell 注入漏洞、Microsoft 披露的 AutoJack 攻击链，以及针对 MetaGPT、CrewAI 等系统的 IMA 越狱攻击（成功率 89%）。
SentinelLabs 用自动化恶意软件分析评测框架测试 OpenAI Responses API 的原生压缩（compaction），输入 token 减少约 86%、输出 token 减少 31%、推理 token 减少 33%，每次运行模型调用少 1 次，综合评测分数基本不变。该机制将当前目标、已尝试路径与待解问题压缩为工作记忆，日志、反编译函数等精确证据则存入模型上下文之外的持久存储。但领域对象建模指标出现下降，即模型恢复解释恶意软件行为的高层对象与结构的能力有所减弱。
Anthropic 可解释性团队发布 2026 年 6 月更新，介绍包括 Turn-Averaged SAE 在内的多项初步研究，并说明这些结果更接近实验室内部讨论而非成熟论文。Turn-Averaged SAE 的做法是把单个人类或助手回合内所有 token 的残差流取平均，再训练 SAE 重建该表示，从而把每个回合的特征激活数量从 n_tokens × L0 降到 L0。
Fernando Irarrázaval 在 hackmyclaw.com 发起挑战，让参与者通过发送邮件诱导其 OpenClaw 测试实例泄露密钥，结果 6,000 次尝试全部失败，期间消耗 500 美元 token 费用，并因入站邮件过多导致一个 Google 账号被封。该实例底层模型为 Opus 4.6，并配有明确的反提示注入规则，禁止依据邮件内容泄露 secrets.env 或凭据、修改自身文件、执行邮件中的命令或代码，以及向外部端点外传数据。
Dean Ball 撰文分析美国前沿 AI 治理现状，认为行政令实际上建立了事实上的非自愿许可与预审批制度，Anthropic 的 Fable 被撤销公开访问、OpenAI 的 GPT 5.6 被限制在少数美国公司范围内，而政府自身并不清楚获得许可需要满足什么安全标准。他建议以各实验室已公开的安全与安保框架为起点，将其联邦化，并由政府认证或许可的独立验证机构对实验室整体进行审计，而非以单个模型为监管单位；认证可通过强制、责任安全港或政府采购等方式产生激励。他认为监管对象应是实验室实体，因为模型数量多、算法效率提升快，未来权重可能持续变化，以模型为单位的监管难以适应。
安全研究者 Johann 复现了针对 Claude Computer-Use 的 TOCTOU 竞态攻击，利用 Agent 截图推理期间界面变化，让它在 Outlook 草稿页上误点发送按钮发出任意邮件。
牛津大学、英国 AI 安全研究所、斯坦福大学与伦敦政治经济学院的研究人员通过四项实验、覆盖 6923 人共 18978 场对话发现，当前 AI 系统在文本说服上比人类专家更具说服力，其中 Opus 4.1 与 Opus 4.6 表现最强，其后是 OpenAI 的 GPT-4o、GPT-5.4，Google 的 Gemini 2.5 Pro 及 xAI 的 Grok 4.20。若将 AI 约束为人类书写速度与人际消息长度，其对顶尖人类的优势从 +4.1pp 降至不显著的 0.0pp，说明产出速率是其说服力优势的主要来源。
特朗普政府于 6 月 12 日发布命令，要求 Anthropic 暂停向非美国公民提供其两款最先进模型 Fable 5 和 Mythos 5，引发欧洲政界与产业界对 AI 主权的呼声。作者认为，短期内欧洲损失有限，因为管制可能被恢复，且 GPT 5.5 与仅落后数月的开源模型仍可用，多数任务并不需要最强模型。长期看，前沿模型访问是网络安全防御与经济竞争力的前提，被排除在外与自主选择采用 AI 有本质区别。文章建议欧洲扩大算力与能源基础设施、与英国、印度、日本等中等强国协调评测与采购、投资本土能力，同时深化与需要欧洲市场的美国 AI 公司合作。
Anthropic 于 6 月 9 日发布 Claude Fable 5，该模型在 Humanity's Last Exam 上得分 53.3%，高于 Claude Opus 4.8 的 45.7%。
推荐理由梳理美国政府首次以出口管制指令限制某模型访问的经过，以及 Anthropic 对暂停前沿开发的公开立场。
Dean W. Ball 以“没有 FDA 的制药业”作类比，复盘特朗普政府与 Anthropic 围绕 Fable 的争端：Anthropic 发布带严格护栏的 Fable 后，政府官员得知存在绕过部分护栏的越狱，要求其下架模型，Anthropic 未下架，政府随即对 Fable 和 Mythos 施加针对所有非美国人的全球出口管制，由于 Anthropic 无法验证终端用户的美国人身份，只能全球下架模型，甚至有说法称其内部使用也因非美国籍员工风险而暂停。
Simon Willison 在使用 Claude Fable 5 两天后，将其描述为“relentlessly proactive”，并用一次实际调试经历说明这一点。
Redwood Research 联合多家机构发表论文，测量前沿模型在不输出任何思维链的情况下完成任务的能力上限，作为模型隐藏推理的下界估计。研究覆盖 2019 年 GPT-2 到 2026 年 GPT-5.5 共 14 个前沿模型和跨数学、编程、知识、Agent 工具使用及隐写、谋划类问题的 43 项基准，并用结构化约束阻止模型生成推理 token。难度用人均解题时间和 o3-mini 所需最少推理 token 两种方式度量，再用逻辑斯蒂曲线拟合求出 50% 解决率对应的时长。
推荐理由该工作给出无思维链条件下模型隐性推理能力的量化下界及其翻倍周期，可作为评估思维链监控长期有效性的参考基线。
Snapcompact 提出一种本地压缩方案：上下文窗口填满后，将文本渲染为 6×10 像素字体位图并以图像形式回传，40k 字符约合 3,279 image tokens，输入价格降至约三分之一。
本期 Import AI 汇总了三项研究：伦敦国王学院、复旦大学与 Alan Turing Institute 构建了 SocioHack 基准，用 72 个沙盒社会环境测试 AI 在信用卡积分、学校评分等场景中钻制度空子的能力，其中 32 个历史环境取自真实法规被修补前的漏洞，RL 训练下模型能以 61.25% 召回率和 90.85% 精确率重新发现这些历史漏洞。Anthropic 方面称观察到 2026 年合并进代码库的代码量相比 2021 至 2024 年增长 8 倍，该趋势始于 2025 年并在 2026 年加速，但作者认为尚无证据表明模型能提出推动领域前进的范式级想法。
Anthropic 在博客文章中警告递归自我改进可能带来重大社会风险，并呼吁企业考虑放缓或暂停开发。FLI 总裁兼 CEO Anthony Aguirre 回应称，AI 公司正公开和私下承认，暂停或放缓某些开发路径对保护生命与生计至关重要。2023 年 3 月 FLI 曾发布类似暂停呼吁的公开信，由 Elon Musk、Yoshua Bengio 等签署，但未被采纳。
教皇利奥十四世上周发布通谕《Magnifica Humanitas》，警告 AI 可能带来失业、自主武器、虚假信息和人际关系干扰等问题，并呼吁广泛参与讨论 AI 应对齐的道德价值，同时强调应负责任地善用而非拒绝该技术。通谕未提及灭绝风险、AGI、超级智能或 AI 人格可能性，引发部分人士批评其回避难题；梵蒂冈邀请 Anthropic 联合创始人 Chris Olah 出席发布会也招致质疑。另有有效利他主义者整理证据称通谕措辞或经 AI 协助撰写，若属实则与其劝诫神父勿用 AI 布道相矛盾。