Goodfire Research、BasetenGoodfire Research 等 2 个来源 · 2篇报道 · Goodfire 与 Baseten 合作推出 Project Beacon，把 Goodfire 的安全栈接入 Baseten 推理平台，通过读取生成过程中的模型内部激活来定义策略，在输出到达用户或工具前检测并处置不安全事件，覆盖提示注入、越权操作、敏感数据泄露和网络滥用四类风险。其激活监控器复用模型已有计算，可在每次前向传播中低延迟运行，监控与生成并行且不阻塞响应，并与 judge 级联以降低成本。在 Kimi K3 的生产网络监控评估中，该方案检出约 93% 的有害会话，仅将 5.5% 的良性会话标记复核，judge 成本最多降低约 50 倍，且推理吞吐无明显下降。Baseten 计划未来数月先面向部分模型和受监控行为发布，再扩展至企业控制与开发者体验。
TechCrunch AI、Goodfire ResearchTechCrunch AI 等 2 个来源 · 2篇报道 · Goodfire 发布“由内而外”监控器，通过 Baseten 向客户提供，可在智能体运行中实时读取模型内部激活信号，由探针触发二次核查。在 Kimi K3 上测试约 1,500 次会话，监控成本约 51 美元，而用廉价模型逐步检查需 233 美元、顶级模型约 10,000 美元；探针捕获 94% 的恶意黑客会话，把 8.7% 的无害会话送去复核。客户可选监控攻击性黑客、化生武器滥用和奖励作弊等风险。另一篇报道称，Goodfire 为 Kimi K3 和 GLM 5.3 构建基于探针的网络安全监控系统并部署在生产推理栈上，探针作为一线过滤器，只把可疑交互升级给 LLM 裁判，在 5.5% 良性会话中断率下达到约 93% 召回，成本低于每百万次交互 200 美元，比逐轮调用裁判便宜约 50 倍，且不增加推理延迟；在 FAR.AI 为期两天、基于 140 个越狱策略的静态红队测试中，启用监控后通用越狱从 66 个降到 0 个。
论文追踪、小红书 上海大学 刘东瑞 AI safety论文追踪 等 2 个来源 · 2篇报道 · 研究者提出 Secure-CUA，一种面向计算机使用智能体（CUA）的安全执行方案，通过在执行前固定动作事务，约束不可信内容对智能体决策与 GUI 命令执行的影响。该方法把安全要求形式化为对智能体决策及其通过 GUI 命令执行两方面的约束，并在理想执行模型下说明逐步满足这两项要求可保护执行轨迹。其核心是在访问不可信内容前先确定一个显式的单动作程序，固定对不可信内容的查询及响应。随后，刘东瑞在解读中讨论了图形界面里可信控制与不可信内容如何混合，以及由此带来的 CUA 安全边界问题。
AWS Security、Strands AgentsAWS Security 等 2 个来源 · 2篇报道 · AWS 以开发者预览形式发布开源沙箱 Strands Box，采用 Apache 2.0 许可，把操作系统级隔离与细粒度策略结合，用于约束 AI Agent 的行为。Box 内嵌此前开源的策略语言 Dogwood 及其本地评估引擎，在网络出口、Python 解释器、Shell 解释器和 MCP 服务器代理等多个执行点做允许或拒绝判定，各执行点共享事件历史，因此规则可以依赖 Agent 此前的动作。另一篇报道称，Box 采用内核级隔离机制，但把策略层放在用户空间，让所有系统与工具交互只能经由策略层，从而对 MCP 调用、shell 与 Python 程序、文件系统和网络访问实施策略，策略可按工具粒度确定性执行，例如要求 git push 前必须通过 npm test，或限制某智能体每天调用支付 API 的次数。
BitdefenderBitdefender · 2篇报道 · Bitdefender 发布面向自主 AI 智能体的独立安全产品 AI Guardian，现以免费公开测试形式登陆 macOS。它位于智能体与其调用的工具、文件和凭证之间，按策略基线实时给出允许、标记或阻止的判定，覆盖提示注入、恶意 MCP 工具、未审查技能和 API key 泄露等风险，分析在本地完成，提示词文本不离开 Mac。测试版支持 Claude Code 2.1.121 或更新版本及 OpenClaw 2026.6.6 或更高版本，可检测并阻断提示注入、校验 MCP 工具与智能体技能、防护 API 密钥和 SSH 密钥等凭证，并记录可审计日志。
Microsoft Windows Developer Blog、X @simonwMicrosoft Windows Developer Blog 等 2 个来源 · 2篇报道 · 微软宣布 Microsoft Execution Containers（MXC）正式可用，为 AI Agent 提供策略驱动的执行隔离层，限制模型生成代码、插件、工具或整个 Agent 可访问的文件与网络资源，策略由容器在运行时强制执行，Agent 自身无法自行扩权。MXC 提供进程容器（Windows 11、macOS、Linux）、仅 Windows 支持的会话容器、WSL 容器和实验性的 MicroVM 四类隔离后端。另有报道称，微软发布了开源跨平台沙箱库 MxC，可在 Windows、macOS 和 Linux 上为 Agent 提供隔离环境，底层使用 processcontainer、bubblewrap 和 seatbelt 实现沙箱；该方案面向为 Agent 管理多种沙箱的开发者，并深度集成 Windows 上的 agent ID，覆盖进程、会话和 micro VM 层级。
HarveyHarvey · Harvey 在重建 Connector Library 时构建了 MCP Policy Engine，在模型之外的编排层对智能体调用合作方 MCP 工具实施策略管控。该引擎针对工具投毒和 rug-pull 两类攻击，从工具参数的“承载量”与“权限”两个维度评估信息流，并配合集成期的内部 MCP 安全分析工具检查认证配置、暴露能力与 JSON schema。Harvey 认为安全训练、内容标记与分类器等缓解措施可被绕过，因此主要依赖架构层面的管控。
MCP TypeScript SDK、al-ice.ai 等 3 个来源MCP TypeScript SDK 等 3 个来源 · 3篇报道 · MCP 参考 SDK 于 2026 年 10 月 2 日在各自仓库发布三条安全公告，修复 HTTP 客户端传输跟随任意源重定向，以及 TypeScript SDK 实验性任务存储未校验会话归属的问题。其中 TypeScript 侧重定向缺陷 GHSA-6prh-2h8m-c8cw 为 medium、CVSS 3.1 6.5，影响 @modelcontextprotocol/sdk 至 1.31.0。随后发布的 MCP TypeScript SDK 1.32.0 新增重定向同源限制：HTTP 客户端传输只在同源（相同 scheme、host 和 port，同 host 的 http 到 https 允许）时跟随重定向；若部署端点重定向到其他 host 或 port，需配置最终 URL，或在 StreamableHTTPClientTransport、SSEClientTransport 上设置 redirectPolicy: 'follow'。GitHub 安全公告还披露，该 SDK 的 OAuth 客户端在受影响版本中由 MCP 服务器决定凭据发往哪个授权服务器，凭据未与其所属授权服务器绑定；恶意或被攻陷的 MCP 服务器可指定自己的授权服务器，客户端在无用户交互的情况下会把此前登录保存的 refresh_token 和 client_secret，或内置 provider 配置的 client_secret 或签名断言发送过去。
TechCrunch AI、The Verge AI 等 6 个来源TechCrunch AI 等 6 个来源 · 6篇报道 · Apple 宣布将在 macOS 上为完全磁盘访问（Full Disk Access）引入额外控制，理由是 AI 智能体能力与自主性增强带来隐私风险。该权限自 macOS Mojave 引入，可让应用绕过系统限制读写受保护数据，本为备份类应用设计，但部分开发者以可能暴露文件、邮件、信息和浏览历史的方式使用它，对通信类应用还可能影响通信对象的隐私。Apple 称未来只有通过“非常明确的用户操作”才能授予这一访问级别，但未说明推出时间，也未披露控制措施的具体运作方式。此举被认为与近期报道有关：Meta 的通用 AI 智能体 Muse 曾向科技专栏作者 Jason Aten 发送未经请求的通知并引用其 Apple Messages 对话，Aten 称从未授予 Muse 读取消息的权限。
Goodfire ResearchGoodfire Research · 2026年10月2日，Goodfire Research 发布一种基于蛋白质语言模型嵌入向量的序列感知监控器，用于筛查 AI 智能体在双用途生物任务中的有害序列。该方法同时利用序列本身和任务上下文，在自建基准上优于前沿模型护栏，且在双用途任务上拒答更少。监控器对改写和片段化等对抗攻击更稳健：当原始蛋白存在于筛查数据库时 AUROC 约为 0.98；原始蛋白不在库中时各方法性能均下降，但该方法在低误报率下仍保持优势。其泛化能力还扩展到留出的蛋白家族、酶类毒素机制留出集以及外部细菌毒素数据。
ModalModal · Modal 发布 Sidecars，一种与主 Sandbox 同主机运行但保持隔离的容器，用于在可信代码与不可信代码之间建立安全边界。Sidecar 与主 Sandbox 采用相同的隔离机制（gVisor 或 VM），通过内部桥接网络以 TCP/UDP 通信并按名称寻址。官方基准显示其通信速度至少比同区域独立 Sandbox 快 3 倍，p50 单次通信 0.58ms 对 2.6ms，p99 为 1.4ms 对 44ms。
GitHub 安全公告、Pydantic AIGitHub 安全公告 等 2 个来源 · 2篇报道 · Pydantic AI 的 ConcurrencyLimitedModel 及 limit_model_concurrency 存在并发槽位泄漏问题：流式请求可能在与获取槽位不同的任务上释放槽位，被 anyio.CapacityLimiter 拒绝，导致槽位在请求结束后仍被占用。流提前结束或按默认 debounce_by=0.1 完整消费 stream_text() 都可能触发，若对外暴露受影响的流式接口并在请求间共享长期存活的限流器，影响会进一步放大。Pydantic AI 在 v2.53.0 中修复了这一高危安全问题（GHSA-6fqq-452j-qhrp），涉及消费者提前停止迭代、抛错或被取消之后，以及用默认 debouncing 完整消费 stream_text() 的场景。
