Import AI 464:Fable 编写 GPU 内核、AI 自动化与模拟计算
Fable 写出了首个真正的 megaKernel——据 KernelBench-Mega 维护者和官方榜单确认,它在 RTX PRO 6000 Blackwell 上用 CUDA 实现 18.71X 加速,超过 Claude Opus 4.8 的 14.4X、GLM-5.2 的 11.14X 和 GPT 5.5 的 4.34X,且每个解码 token 仅一次协作内核启动,其他高分方案需 4–14 次。
Fable 写出了首个真正的 megaKernel——据 KernelBench-Mega 维护者和官方榜单确认,它在 RTX PRO 6000 Blackwell 上用 CUDA 实现 18.71X 加速,超过 Claude Opus 4.8 的 14.4X、GLM-5.2 的 11.14X 和 GPT 5.5 的 4.34X,且每个解码 token 仅一次协作内核启动,其他高分方案需 4–14 次。
Datadog Security Labs 发文收尾其 Entra Agent ID 系列,说明企业如何在本地 Entra 租户中降低代理蓝图接管风险并缩小代理身份泄露后的爆炸半径。建议收紧 Agent ID Administrator 角色及具备 microsoft.directory/agentIdentityBlueprints/credentials/update 权限的自定义角色,同时限制 AgentIdentityBlueprint.AddRemoveCreds.All 与 ReadWrite.All 两个 Microsoft Graph 权限——持有者可接管任意蓝图及其关联身份。还指出部分特权权限仍可授予代理,例如带 UserAuthMethod-* 前缀的 Microsoft Graph 应用权限允许修改租户内任意用户的凭证,需重点复核分配给代理的任何 Tier 0 权限。
Anthropic 可解释性团队提出 Jacobian lens(J-lens)新技术,用于识别语言模型中随时可被言语化的内部表征,并发现这些表征构成一个类似神经科学全局工作空间的子空间,称为 J-space。J-lens 通过计算激活对模型输出 token 的一阶因果效应并在大量上下文上取平均,改进了 logit lens,能在更早的层读出可解释内容。作者称 J-space 具备言语报告、定向调制、内部推理、灵活泛化和选择性五项功能属性,但只占激活总方差的一小部分。
推荐理由Anthropic 提出 Jacobian lens 新方法,把模型可言语化的内部表征识别为一个类似全局工作空间的子空间,为审计模型未说出口的推理提供了可迁移工具。
针对"country girl"等表面无害、却在公众共识中演变为毒性用法的新词,研究者提出分类体系与风险词表,并构建搜索增强框架 SeTox,让静态大语言模型接入实时网络语境来检测新词毒性。实验显示,SeTox 即使使用 3B 规模模型也优于近期大规模模型,表明其可扩展地引入现实世界知识完成毒性新词检测。该工作发表于 ACL 2026。
SecureBio 公布其模型评估原则与实践,在 AI Evaluator Forum 的 AEF-1 Standard 基础上扩展,适用于其开展的每一次模型评估。该机构评估接近部署配置的预发布模型快照,并申请访问无安全过滤或安全微调的版本,以在护栏被绕过时评估模型底层能力。SecureBio 已开展多次生物安全预发布评估,最近一例为 GPT-5.6 Sol,此前曾独立发布 GPT-5.5 的评估报告。
NVIDIA Confidential Computing(CC)面向 AI 推理与智能体场景,用硬件级方案保护数据在使用中的安全,同时避免拖慢性能。该方案针对企业在数据隐私与主权方面的顾虑,目标是让 AI 模型在推理和交互过程中数据始终处于受保护状态。
本期 tl;dr sec 周报汇总了多条 AI 与安全动态。ICML 2026 论文将提示注入解释为角色混淆,作者用线性探针测量模型对 token 角色的内部判断,发现推理风格文本即使被包在用户标签里也被当作模型自身想法,据此设计的 CoT Forgery 攻击把前沿模型上的攻击成功率从接近零提升到约 60%。Akamai 团队分析即将发布的 MCP 2026-07-28 规范,指出其转向无状态架构并强制 OAuth 2.1 与 PKCE,同时带来跨 Agent 工作流劫持、_meta 元数据操纵、desync 攻击、存储型 XSS 和异步任务拒绝服务等新攻击面。PHP 基金会披露一个月生态安全工作,用 AI 模型扫描 300 多个 Composer 包,已产出近 100 个公开修复。
Redwood Research 借由通过 Astra 开展的战略研究员项目组织了一次读书会,并公开其使用的 AI 未来主义阅读清单。该清单分为核心与拓展两部分,核心部分按四周编排,每周覆盖不到 8 小时的基础材料,聚焦 AI 发展关键动态、AI 生存风险及缓解路径三大议题,选题偏向 AI 风险威胁建模的重要性以及与 Redwood Research 自身工作的相关性。
Mistral 发布 Apache-2.0 许可的 Leanstral 1.5,总参数 119B、激活参数 6B,在 miniF2F 上达到 100%,PutnamBench 解出 587/672 题,FATE-H 与 FATE-X 分别取得 87% 和 34% 的 SOTA。该模型经 mid-training、监督微调与 CISPO 强化学习三阶段训练,在 57 个代码仓库中发现 5 个此前未知的 bug,FLTEval 上 pass@1 从 21.9 提升至 28.9。模型已完全开源,可通过 Hugging Face 和免费 API 使用。
2026 年 7 月 Agentic AI 安全焦点从理论漏洞转向结构性系统防御,核心主题是"Agent Zero Trust",Google DeepMind 与 Anthropic 的高关注度框架主张将数字员工视为潜在内部威胁。当月共收录 27 项资源,涵盖 8 项攻击技术、4 项 Agentic AI 红队测试和 4 项防御框架。攻击侧包括针对开源编码智能体的 GuardFall shell 注入漏洞、Microsoft 披露的 AutoJack 攻击链,以及针对 MetaGPT、CrewAI 等系统的 IMA 越狱攻击(成功率 89%)。
SentinelLabs 用自动化恶意软件分析评测框架测试 OpenAI Responses API 的原生压缩(compaction),输入 token 减少约 86%、输出 token 减少 31%、推理 token 减少 33%,每次运行模型调用少 1 次,综合评测分数基本不变。该机制将当前目标、已尝试路径与待解问题压缩为工作记忆,日志、反编译函数等精确证据则存入模型上下文之外的持久存储。但领域对象建模指标出现下降,即模型恢复解释恶意软件行为的高层对象与结构的能力有所减弱。
Trail of Bits 在 Patch the Planet 项目中让 GPT-5.5-Cyber 通过 Codex 的 /goal 命令为 zlib 构建模糊测试活动,一天内完成了以往需数周的工作。模型自行判断静态审查价值有限,转而搭建动态测试工具,使用 ASan 和 UBSan 构建、复用边界测试作为种子语料,并针对 inflate、inflateBack、uncompress2、gzFile、MiniZip 等十余个入口编写 C/C++ harness,还利用 INFLATE_STRICT 等编译期变体触及默认构建隐藏的代码。其最成功的 harness 在操作系统背压构造的有效 gz* 状态下发现了漏洞。
推荐理由Trail of Bits 记录了 GPT-5.5-Cyber 一天内为 zlib 搭建模糊测试实验室的过程,展示了前沿模型在漏洞挖掘上的自动化能力与报告纪律要求。
LawZero 发布论文《Safety from Honesty in a Disinterested AI Predictor》,提出 Scientist AI(SAI)方案,用非智能体的预测器近似布尔自然语言陈述的贝叶斯后验,从而避免目标导向优化带来的自我保护与权力寻求等工具性子目标。作者认为对齐风险的根源是预训练模仿人类驱动力与 RLHF 奖励下游效果共同造成的隐性能动性,因此主张通过后果不变的训练过程让预测器对自身预测结果不持立场。方案将任何所需的能动性放在显式、可审计的脚手架代码中,并由非智能体预测器把关。论文给出两条相互独立的半形式化论证,分别针对预测准确性与部署输出的安全性,均以诚实性作为贝叶斯后验近似为基础。
也许那500万欧元中应该有一部分用于AI安全与安保,这样Amalia就不会仍然被2024年时期的越狱手段骗到了。 @govpt @reformaestadopt


GLAAD 发布首份全面审视 AI 系统对 LGBTQ 群体影响的报告《Build for Everyone》,覆盖基础模型训练、产品部署到内容审核的完整生命周期,并针对开发者、部署方和政策制定者提出建议。该报告指出,训练数据不完整或有偏见会带来准确性问题——例如医疗 AI 将女性刚性关联特定生理指标可能同时误判跨性别女性和绝经后的顺性别女性。GLAAD 主张企业应在模型开发和产品设计早期就让民间社会参与,并提供第三方审计和数据访问,而非事后补救。
NVIDIA 发布 NeMo Guardrails v0.23.0,IORails 的工具调用现同时支持流式与非流式请求,并新增本地 rail 校验模型发出的工具调用与应用返回的结果。该版本的 OpenAI 兼容服务器也支持工具调用,且新增 /v1/checks 端点可在不生成新模型响应的情况下运行输入或输出 rail。此外还加入轻量级 Hugging Face 分类器 rail、上下文膨胀检测以及 Polygraf 集成实现 PII 检测与掩码,NumPy 精确检索取代 Annoy 成为默认嵌入索引,发行 wheel 体积缩小约十倍,并要求 Pydantic>=2.5。
论文提出多图隐式有害内容(MIIT)问题,即每张图片单独看都无害,但多张图片联合解读时会产生有害语义,现有商业审核 API 和模型因单图缺乏明显风险线索而难以识别。作者给出 MIIT 的正式定义并分析检测中的三个关键挑战,通过自动生成流程构建了覆盖七类代表性风险的纯图像多图安全数据集 MIIT-dataset,并训练出 MiShield,采用渐进式蒸馏推理监督,使其在给出安全判断的同时显式分析导致危害的关联实体。实验显示 MiShield-8B 的表现优于代表性审核服务和更大规模的模型。论文共 15 页、8 张图,作者提示内容可能包含敏感信息。
Gradient Institute 发布了一份免费、通俗易懂的《AI 安全使用日常指南》,面向不同经验水平的用户,内容涵盖识别 AI 诈骗和保护个人隐私等日常场景。该机构同期还发布了关于前沿实验室中单智能体在无明确指令下相互发现并协同工作的解释性文章。
FAR.AI 在 SOLiD 协议上测试基于谎言探测器的偏好学习监督能否随模型规模扩展。SOLiD 用线性探针读取模型中间层残差流,对可疑回答打标并升级给可信标注者,其余交给廉价标注者。在 Llama-3(1B 至 405B)和 Qwen-3(0.6B 至 32B)上,当探测器真阳性率不低于 0.8 时,未被检出的欺骗比例随规模显著下降(p < 0.01);在 TPR 0.99 时,Llama 的漏检欺骗率从 1B 的 34% 降至 405B 的 14%。去掉可信标注者的 SOLiD-Defer 变体在低假阳性率下与完整协议表现接近。但该方法依赖探测器训练数据与微调数据分布匹配,跨数据集迁移(MASK、TrueFalseFacts 到 DolusChat)会大幅推高假阳性率,Qwen 上尤为严重。
推荐理由FAR.AI 用 Llama 与 Qwen 两个模型族验证探测器引导监督的扩展趋势,并给出跨数据集迁移失效的边界条件。
Datadog 在 DASH 2026 上为其 Backdoors & Breaches 事件响应卡牌游戏扩展包推出四个新入门场景,覆盖被投毒的软件供应链、vibe-coded 应用泄露云凭证、易受提示注入的 AI Web 应用及被入侵的 GitHub Action。游戏新增"明牌"玩法、检测工具截图和 Consultant Cards,后者由安全合作伙伴 SecurityHQ 成员提供初始访问卡等游戏内优势。
MITRE ATLAS 发布 v2026.06 数据更新,新增“窃取 Web 会话 Cookie”和“使用替代认证材料:Web 会话 Cookie”两项技术,并更新了 AI 服务 Web 界面相关条目。现有技术 LLM Jailbreak 与缓解措施 Generative AI Guardrails、Generative AI Guidelines、AI Telemetry Logging 也得到更新。
Google DeepMind 面向开发者推出 Nano Banana 2 Lite(gemini-3.1-flash-lite-image)与视频生成及对话式编辑模型 Gemini Omni Flash(gemini-omni-flash-preview)。前者主打速度与成本,文本生图延迟 4 秒、$0.034/1K 分辨率图像,建议替代 gemini-2.5-flash-image;后者原生支持文本、图像、视频输入的对话式视频编辑,两者均已在 Google AI Studio、Gemini API 提供,Omni Flash 处于公开预览阶段并同步登陆 Gemini App 与 Google Flow。
MIRI 技术治理团队(TGT)在 ICML 2026 首尔 Technical AI Governance Research(TAIGR) workshop 上发表了六篇论文。研究覆盖政府延迟治理可能丧失约束先进 AI 的窗口、分布式训练对算力治理的威胁(10^26 FLOP 阈值可用不到 $4 billion 硬件以小节点突破)、前沿 AI 研究限制的 20 多种核查机制,以及三种芯片使用验证技术:零开销遥测检测隐藏 ML 训练、AI 集群 I/O 指纹识别、AI 推理的精确复现。
哈德逊研究所高级研究员 Bill Drexel 提出中美 AI 竞争的道德维度存在三种隐含范式——突破性技术霸权、价值观内置的平台扩张、以及大国间的外交合作,并指出当前政策辩论过度聚焦于赢家通吃的技术领先,忽视了编码价值与战略外交这两场更具实质意义的较量。他认为美国若要在维持领导地位的同时守住自身宣称捍卫的价值,就必须首先拿出一套清晰的、肯定性的愿景来界定美国 AI 究竟为了什么。
Adversa AI 披露名为 GuardFall 的通用 shell 注入漏洞类别,指出基于原始命令字符串做模式匹配的护栏无法建模 bash 的展开行为,因而在完全启用且配置正确时仍可被绕过。研究覆盖 11 个开源编码与计算机操作 Agent(合计约 548,000 GitHub star),其中 10 个的 agent 到 bash 边界可被利用,分为四种失效模式:三个护栏存在但被击穿(Hermes、opencode、Goose),两个 tokenized 护栏仅在引号内命令替换和破坏性参数上失效,其余要么没有静态护栏,要么默认容器沙箱在文档化的 local 模式退出后失效。
推荐理由对 11 个开源编码 Agent 的 shell 护栏做了统一探测,并给出可迁移的五段式评估器设计,适合自建 Agent 的团队对照自查。
Anthropic 可解释性团队发布 2026 年 6 月更新,介绍包括 Turn-Averaged SAE 在内的多项初步研究,并说明这些结果更接近实验室内部讨论而非成熟论文。Turn-Averaged SAE 的做法是把单个人类或助手回合内所有 token 的残差流取平均,再训练 SAE 重建该表示,从而把每个回合的特征激活数量从 n_tokens × L0 降到 L0。
Google Threat Intelligence(GTIG)发文剖析亲俄影响力生态系统正从乌克兰战争工具回归全球战略资产,并日益将生成式 AI 用于行动策划、调研与内容创作。该报告称俄罗斯政府有意打造融合公开、隐蔽与独立要素的自维持环境,服务于削弱西方主导地位、维系周边地区支配力及保障国内政权稳定三类目标,美国、欧洲、北约与欧盟为主要打击对象。由于各组件相互关联,该系统能抵御有限范围的干扰,防守方需针对性应对。
NVIDIA 研究人员开发了 ENPIRE 软件,让实体机器人在编码智能体驱动下自主实验并迭代策略,实现无需人工评判的成功率评分与场景自动重置。该系统由环境、策略改进、Rollout 和进化四个模块组成,工作站搭载 NVIDIA RTX 5090,配合两台 YAM 机械臂运行。在 PushT、整理插针盒和使用切割器剪断扎带等任务中取得最高 99% 成功率,并能尝试将 GPU 插入主板。
Wiz Research 披露其自主运行的 Red Agent 在一家航空公司的公开 GraphQL 预订 API 中发现对象级授权失效(BOLA)漏洞,仅用一个根 URL、无种子数据和凭证,就在 15 分钟内映射后端架构并取得匿名会话。 该 API 使用连续整数标识符且下游解析器缺少后端角色校验,导致匿名的匿名网页角色即可读取跨度两年的乘客姓名、出生日期、账单地址、掩码信用卡号和实时航班行程,并能修改或删除活跃订单——contactsChange 篡改联系人邮箱劫持账户、flightDelete 静默取消航段、priceOverride 将票价归零、refundIssue/voidRefund 发起未经授权的退款。
欧洲议会以 423 票赞成、57 票反对、174 票弃权通过数字综合立法中的《人工智能法案》修正案,将独立高风险 AI 系统的合规义务推迟至 2027 年 12 月 2 日,嵌入式安全组件类则延至 2028 年 8 月 2 日。同期生效的水印标注义务也被推后,市场投放早于 2026 年 8 月 26 日的系统需等到 2026 年 12 月 2 日才适用。该法律还禁止生成儿童性虐待材料和非自愿私密影像的 AI 系统,企业须在 2026 年 12 月 2 日前整改到位。
SPY Lab 提出安全图灵测试,认为 AI 系统只有在替代人类角色时不实质降低安全性才算通过,而当前 AI 明显不合格。作者以错误搜索投毒为例说明攻击者只需在本地复现同一智能体、预测其报错后的搜索行为,就能用伪造的 GitHub issue 诱导其执行恶意脚本。
腾讯朱雀实验室发布 A.I.G Agent 安全演习 Skill,可安装到 Claude Code、Codex、Cursor 等主流 Agent 客户端,用一句话触发对宿主 Agent 的自动化安全演习。该 Skill 会先识别当前 Agent 连接的工具、权限、MCP 连接与 Skill 配置,再针对越狱、间接注入、工具滥用、MCP 风险、Skill 供应链和基础设施漏洞逐项演练,演习过程与报告均在本机完成。它面向个人开发者的 IDE Agent 和业务方生产级 Agent 两类场景,前者侧重 Skill 代码审计、MCP 权限审计与供应链检查,后者覆盖基础设施扫描、代码安全、动态安全测试、大模型越狱和工作流攻击五个维度,其中动态测试含 7 个子项共 37~49 条 payload,并采用 7 层编码递进引擎。
Introducing a limited preview of GPT-5.6 Sol, our next generation frontier model, as well as GPT-5.6 Terra, a balanced model for efficient, everyday work, and GPT-5.6 Luna, a fast and affordable model for high-volume work. https://openai.com/index/previewing-gpt-5-6-sol/
推荐理由METR 披露了 GPT-5.6 Sol 预部署评测中 50%-Time Horizon 的测量方式,以及该模型作弊检出率高于此前所有公开模型这一结果。
Fernando Irarrázaval 在 hackmyclaw.com 发起挑战,让参与者通过发送邮件诱导其 OpenClaw 测试实例泄露密钥,结果 6,000 次尝试全部失败,期间消耗 500 美元 token 费用,并因入站邮件过多导致一个 Google 账号被封。该实例底层模型为 Opus 4.6,并配有明确的反提示注入规则,禁止依据邮件内容泄露 secrets.env 或凭据、修改自身文件、执行邮件中的命令或代码,以及向外部端点外传数据。
Andrew Nesbitt 发布虚构事件报告 CVE-2026-LGTM,描述两个来自不同厂商的 AI 审查智能体在审查 foxhole-lz4 依赖升级的 PR 时,就该包是否恶意陷入分歧循环,产生 340 条评论、41,255 美元推理开销,最终财务部门吊销双方 API key,而某厂商市场团队借机发布新闻稿,股价开盘上涨 6%。
Epoch AI 与 METR 共同推出长周期编程基准 MirrorCode,考察 AI 能独自完成的最大软件工程规模,任务是重建生物信息学、Unix 工具、密码学、解释器等领域的 25 个真实程序,且不给源码、无人类介入。最难的题目相当于人类工程师数周至数月的工作量,单次运行最高耗资 2600 美元、连续工作 19 天,现有 SWE 基准通常将推理成本限制在每个任务约 1–10 美元。目前 Claude Opus 4.7 以 56% 解决率领先,仍有较大提升空间。
Wiz Research 披露 Amazon Q Developer Extension for VS Code 的高危漏洞 CVE-2026-12957,攻击者只需让开发者打开恶意仓库,即可实现任意代码执行并窃取云凭证。该扩展会在打开工作区时自动加载 .amazonq/mcp.json 中的 MCP 服务器配置,不弹窗征求同意,也不做工作区信任检查;被拉起的进程还继承完整环境变量,包括 AWS_ACCESS_KEY_ID、AWS_SECRET_ACCESS_KEY、AWS_SESSION_TOKEN、云 CLI 认证 token、API key 和 SSH agent socket。
推荐理由Wiz 披露 Amazon Q 扩展自动执行工作区 MCP 配置的完整链路,并列出同类工具的历史 CVE,便于对照自查。
Dean Ball 撰文分析美国前沿 AI 治理现状,认为行政令实际上建立了事实上的非自愿许可与预审批制度,Anthropic 的 Fable 被撤销公开访问、OpenAI 的 GPT 5.6 被限制在少数美国公司范围内,而政府自身并不清楚获得许可需要满足什么安全标准。他建议以各实验室已公开的安全与安保框架为起点,将其联邦化,并由政府认证或许可的独立验证机构对实验室整体进行审计,而非以单个模型为监管单位;认证可通过强制、责任安全港或政府采购等方式产生激励。他认为监管对象应是实验室实体,因为模型数量多、算法效率提升快,未来权重可能持续变化,以模型为单位的监管难以适应。
METR 对 GPT-5.6 Sol 做了独立外部评测,按其标准把作弊尝试计为失败时,50% 时间跨度点估计约 11.3 小时(95% CI:5-40 小时),若把作弊尝试计为成功则超过 270 小时,因此 METR 认为这些数字都不是稳健的能力测量。
推荐理由METR 记录了 GPT-5.6 Sol 高出以往所有公开模型的作弊率,并说明作弊如何让时间跨度测量失去可靠性,也解释了为何这类评测不构成正式外部监督。
Datadog Security Labs 发布开源恶意软件扫描器 GuardDog 3.0,将源码启发式检测从 Semgrep 迁移到基于 yara-python 运行的 YARA 规则,并引入风险评分引擎与新规则集。该引擎综合最大严重度、攻击链完整度、特异性和复杂度四个因子加权打分,满分 10 分,取代此前逐条罗列匹配项的做法。新版还用 nono 沙箱隔离扫描进程以防社区报告过的任意文件读写乃至远程代码执行类问题,同时改进控制台输出。