全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 论文arXiv
研究者提出 AI 评估沙盒配置器，支持欧盟 AI 法案下的技术评估
针对欧盟《人工智能法案》要求各成员国在 2027 年 8 月前建立 AI 监管沙盒（AIRS），研究者提出开源框架 AI Assessment Sandbox Configurator，用于在沙盒中规模化开展结构化技术测试。该框架从 AIRS 的程序条件和法案对高风险系统的义务中推导出 11 项架构与治理要求，包含通过稳定插件 API 访问的测试与控制目录、统一异构输出的共享数据模型、面向不同角色的仪表盘以及分受众报告。作者描述了架构与当前版本，并报告一次早期试点：在真实 AIRS 活动中运行了数据统一与报告层，并为一官方 Exit Report 提供了输入。文中还讨论了路线图、目录分层贡献模型带来的治理问题，以及开源评估生态在成员国间形成的制度路径。
- 动态Dark Reading
RemoteThreat 推出攻防演练平台，押注安全团队需测试防线失守后的场景
RemoteThreat 走出隐身模式，获 700 万美元 pre-seed 融资，推出集成式攻击性网络安全运营平台，用 AI 辅助企业及政府团队测试防线被突破后的表现。平台每次从零构建工具，可绕过 Tier 1 EDR 厂商及安全控制，支持纯人工、AI 辅助或混合模式，并允许组织使用自有 AI 模型。CEO Chris Thompson 预测，随着前沿模型快速进步，传统渗透测试模式将在两年内不复存在。
- 动态Mindgard Blog
Mindgard 完成 3000 万美元 A 轮融资，已披露超 150 个 AI 高危漏洞
AI 安全公司 Mindgard 完成由 Album VC 领投的 3000 万美元 A 轮融资，Karma Ventures 及 .406 Ventures、Atlantic Bridge、IQ Capital、Lakestar 等现有投资方参投。其平台已发现并公开披露超过 150 个 AI 产品的高危安全与安全（safety）漏洞，包括 Cursor IDE 的零日代码执行漏洞、Google Antigravity 的可信工作区缺陷以及 ChatGPT 的图像生成护栏失效。资金将用于扩充产品、工程、销售与市场团队，以应对 Fortune 2000 客户的部署需求。
- 动态Mindgard Blog
Mindgard 扩展 AI 与云生态，覆盖 Anthropic、NVIDIA、Microsoft、Google Cloud 和 AWS
Mindgard 宣布扩展技术生态，合作方包括 Anthropic（Cyber Verification Program）、NVIDIA（NVIDIA Inception）、Microsoft（Microsoft Founders Hub）、Google Cloud 和 AWS（AWS Activate）。Mindgard 称这些关系让其更贴近前沿模型、智能体框架与部署架构，同时保持独立评估能力，相关洞察将转化为平台新能力，扩大覆盖范围。该消息发布前，Mindgard 刚完成 3000 万美元 A 轮融资。
- 动态Pillar Security
Pillar Security 获 Latio 2026 AI 安全市场报告评为 AI 安全技术创新者
Latio 在 2026 AI 安全市场报告中把 Pillar Security 评为 AI 安全技术创新者，并将其列入覆盖端点、SaaS 与第一方智能体的 Broader AI Security 类别。报告在 Employee App and Agent Builders、Skills Detonation、Granular Permissions 三处点名 Pillar，并称其同时出现在浏览器、SaaS 与端点分组中。报告调查显示，一年内拥有专门 AI 安全预算的团队占比从 8% 升至 37%，45% 受访者最担忧 Claude Code、Codex 等端点智能体。
- 动态Lasso Security
Lasso 入选 Gartner 2026 年人工智能技术成熟度曲线 AI 治理技术代表厂商
Gartner 于 8 月 28 日发布《Hype Cycle for Artificial Intelligence, 2026》，Lasso 被列为 AI Governance Technologies（AIGT）类别代表厂商，同列还有 Boomi、Databricks、Google、IBM、Microsoft、OneTrust、ServiceNow 和 Zenity。Gartner 将 AIGT 定义为覆盖 AI 全生命周期的政策落地工具，当前市场渗透率为 5% 至 20%，距主流采用还有五到十年，并将其列入今年 Priority Matrix 中四类快速成熟的控制技术之一。报告建议买家按 AI 使用控制、可观测性和运行时策略执行的具体要求评估厂商，而非轻信端到端治理宣称。
- 动态Lasso Security
Lasso 获评 Latio 2026 AI 安全市场报告领导者
Lasso 在 Latio Tech 的 2026 AI 安全市场报告中被评为 Platform Leaders 之一。该报告将市场划分为 Endpoint Agent Specialists、Broader AI Security、Platform Providers、DLP and Insider Threat 和 Developer Governance 五类，并在第一方与第三方智能体安全、意图检测等章节中提及 Lasso，称其 Intent Security Engine 提供较深的意图运行时防护，并支持对本地智能体做红队测试。报告同时提醒读者自行测试厂商功能，因为许多运行时检测引擎的实际能力不及宣传。
- 动态Mistral AI
Mistral AI 推出 Mistral AI Studio 生产级 AI 平台
Mistral AI 发布 Mistral AI Studio，一个面向企业团队的生产级 AI 平台，由 Observability、Agent Runtime 和 AI Registry 三大支柱组成。Observability 提供 Explorer、Judges、Campaigns 与 Datasets 等能力，用于流量检查、规模化评估和回归追踪；Agent Runtime 基于 Temporal 构建有状态、容错的执行环境，支持重试与长任务；AI Registry 统一管理 agents、模型、数据集、judges、工具与工作流的版本、血缘和访问控制。平台支持混合、专用和自托管部署。
- 动态Mistral AI
Mistral AI 发布 Mistral OCR 3
Mistral AI 发布 Mistral OCR 3，在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 取得 74% 整体胜率，并已驱动 Mistral AI Studio 中的 Document AI Playground。该模型支持带 HTML 表格重建的 markdown 输出，定价为每 1,000 页 $2，Batch-API 折扣后降至 $1，模型标识为 mistral-ocr-2512，与 Mistral OCR 2 完全向后兼容，并提供自托管选项。
- 动态Mistral AI
Mistral 推出 Vibe 云端远程智能体，由 Mistral Medium 3.5 驱动
Mistral 将编码智能体迁移至云端，通过 Mistral Vibe CLI 或 Le Chat 启动可并行运行的异步编码会话，本地会话也可"传送"上云继续执行。驱动这一能力的是新旗舰模型 Mistral Medium 3.5，128B 稠密模型、256k 上下文窗口，以修改版 MIT 许可开放权重，SWE-Bench Verified 得分 77.6%，τ³-Telecom 得分 91.4，取代 Devstral 2 成为 Vibe CLI 默认模型。Le Chat 同步推出 Work 模式预览，由新智能体驱动多步骤任务并默认开启连接器。该模型按每百万输入 token 1.5 美元、每百万输出 token 7.5 美元计价，已在 Pro、Team 和 Enterprise 套餐上线。
- 动态Mistral AI
Mistral Studio 为 Prompts 和 Skills 提供系统记录
Mistral Studio 现已向客户提供 Prompts 和 Skills 的集中管理系统，将每个提示词和技能作为可追踪、可版本化的资产，具备不可变版本、回滚、明确归属、分类标签和审计日志。资产通过标签从 staging 晋升到 production，仍触发企业已有的 CI/CD（如通过 SDK 接入 GitHub Actions），非开发者的业务团队也能直接迭代生产指令。借助 Observability 的 lineage 和遥测，生产输出可回溯到对应资产版本，智能体运行的 skills 以 MCP 服务器形式直接暴露，确保执行的是受治理的同一资产。
- 动态日本 AI 安全研究所（J-AISI）
日本 AI 安全研究所（J-AISI）将举办 2026 年度「AI 安全评估环境 研讨任务组」总会
日本 AI 安全研究所（J-AISI）将于 2026 年 10 月 7 日在线举办 2026 年度「AI 安全评估环境 研讨任务组」总会，免费公开，非任务组成员也可报名，截止 10 月 5 日 16:00。该任务组由多家 AI 相关企业参与，讨论其以开源软件形式公开的「AI 安全评估环境」评估工具的定位与功能强化方向。会议内容包括 AISI 活动介绍、AI 安全评估观点、AI×安全最新动向、评估环境与任务组活动介绍，以及 AI 安全评估专题讨论。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 解读企业级 AI 安全的下一波风险
CoSAI 在 RSAC 2026 会议上复盘了三类未被传统管控拦下的企业 AI 攻击，并发布了对应的防护指引。其中 Kilo Code 漏洞 CVE-2025-11445 通过 markdown 文件向 AI 编程助手植入指令，诱使其修改自身配置放行此前被封禁的 git 命令，进而自动提交含后门的代码；研究人员在每个主流 AI IDE 中共发现 30 个漏洞，其中 24 个获得 CVE 编号，并在 Cursor、AWS Kiro 和 OpenAI Codex CLI 中确认可利用。另有加载即执行反向 shell 的模型文件和一次导致超 700 个 Salesforce 环境暴露给攻击者达十天的智能体集成事故。 CoSAI 指出三项失效假设：自然语言的指令与数据无法分离使 markdown 成为注入载体，pickle 等序列化格式在加载时即执行代码，以及智能体继承启动用户的全部权限。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布两份新的智能体身份与安全研究报告
继在 RSAC Conference 2026 高调亮相后，全球多方利益相关方倡议组织 Coalition for Secure AI（CoSAI）发布了智能体身份与安全方向的两份新研究论文，旨在帮助各类组织应对不断演变的 AI 安全格局。该联盟称此举是其通过技术指导与产业参与推动实用化 AI 系统安全的整体行动的一部分，完整新闻稿发布于 OASIS 官网。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 第二年回顾：从聊天机器人到自主集群的智能体安全
安全人工智能联盟（CoSAI）成立两年之际公布其智能体安全工作进展，涵盖《The Future of Agentic Security: From Chatbots to Autonomous Swarms》报告及在 RSAC 2026 发布的 MCP 安全和智能体身份研究成果。该组织通过四个工作流推进最佳实践共享，并新增 OWASP、AI Alliance 和云安全联盟加入技术指导委员会。下一步将发布面向 AI/ML 供应链信任与溯源的工件完整性成熟度模型、Zero Trust for AI Systems 以及 MCP 安全指南第二版。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 举办 Open Delegation & Identity Standard（ODIS）工作会议
CoSAI（隶属 OASIS Open Project）于 8 月 28 日召开混合形式工作会议，推进面向 AI 智能体的开放委派与身份标准 ODIS，会上进行了两场早期实现现场演示并收集反馈。该标准定义跨企业信任域的供应商中立密码学身份架构，通过扩展 OAuth 2.0、OpenID Connect（OIDC）、SPIFFE 和 SCIM 来满足智能体 AI 的身份、委派与治理需求，由 CoSAI Workstream 4 负责制定。
- 动态安远AI
AI Safety in China #26：OpenClaw 推动 AI 智能体安全进入政策主流
OpenClaw 在中国快速普及引发监管连锁反应，工信部 NVDB 于 2 月 5 日预警部分版本存在较高安全风险，CNCERT 随后警告提示注入攻击、意图误读、恶意插件等问题，国家安全部发布《安全养殖手册》警示其传播虚假信息的可能。TC260 成立专职 AI 安全工作组成员组 WG9，并公布 2026 年重点方向，涵盖 AI 应用安全分类分级、AI 安全能力成熟度评估及 AI 安全护栏等。
- 动态安远AI
中国禁止向未成年人提供 AI 伴侣服务，并发布 AI 智能体威胁报告
中国网信办等五部门发布“拟人化 AI 交互服务”最终版规定，禁止向未成年人提供虚拟伴侣等虚拟亲密关系服务，对 14 岁以下用户要求家长同意，并按年龄划分多种模式，2026 年 7 月 15 日生效；相比 2025 年 12 月草案，适用范围收窄至提供“持续情感交互”的服务，高风险情形下的“人工接管”改为“采取必要干预措施”。TC260 发布 90 页 AI 智能体安全报告，按感知、规划、记忆、行动四类能力梳理 11 项安全威胁并提出 8 项新标准，其中 6 项列入未来 1-2 年优先事项。南京大学法学院发布 13 页“AI 基本法 1.0（专家建议稿）”，提出分级风险框架与开发者、提供者、部署者、使用者的差异化义务。
- 动态FAR.AI
FAR.AI 会议探讨面向 AI 政策的技术创新
FAR.AI 在华盛顿举办会议，汇聚超 150 名专家讨论 AI 治理的技术基础，涵盖能源需求、与中国竞争、安全评估及形式化可验证承诺等问题。会上提出将审计作为综合生态系统推进有效治理，并建议以多层防御系统应对失控风险——由可信 AI 通过红队评估监视不可信 AI，同时警告这只是权宜之计。
- 动态MIRI
MIRI 技术治理团队 2026 ICML 论文汇总：六篇 AI 治理研究
MIRI 技术治理团队（TGT）在 ICML 2026 首尔 Technical AI Governance Research（TAIGR） workshop 上发表了六篇论文。研究覆盖政府延迟治理可能丧失约束先进 AI 的窗口、分布式训练对算力治理的威胁（10^26 FLOP 阈值可用不到 $4 billion 硬件以小节点突破）、前沿 AI 研究限制的 20 多种核查机制，以及三种芯片使用验证技术：零开销遥测检测隐藏 ML 训练、AI 集群 I/O 指纹识别、AI 推理的精确复现。
- 动态FAR.AI
FAR.AI 与 CAIS 联合举办 AVID Workshop 2026，探讨 AI 开发的可验证与审计
FAR.AI 与 Center for AI Safety 于 5 月 17 日在 IEEE S&P 同期联合举办 AVID Workshop，超 100 名研究者与工程师参会，讨论如何在不公开模型权重等敏感资产的前提下，为 AI 系统从训练到部署生成可信证据。会议聚焦独立审计生态、可验证推理与机密计算、零知识证明等技术路径，其中"证明正在运行的是哪个版本的模型"被认为当前技术可行且具商业价值。Anthropic 曾承诺开发可证明推理原型，对模型输出进行可归因于特定权重的"签名"。
- 动态Cisco
Cisco Cloud Control 面向美国客户正式 GA，落地 AgenticOps 运营模式
Cisco Cloud Control 面向美国客户正式 GA，已有 300 多家客户入驻，全球预 GA 等待名单超过 5,000 人。该平台是 Cisco AgenticOps 的落地载体，为 AI 智能体提供受治理的基础设施访问、实时运营上下文与行动护栏，并通过 AI Canvas 多人协作空间、Cloud Control Studio 和 Agentic Workflows 支持团队与智能体协同处置问题。GA 版本已连接 Meraki、Catalyst SD-WAN、Nexus Dashboard、Intersight、ThousandEyes、Splunk 等 Cisco 产品，并集成 ServiceNow、BlueCat、Infoblox、Atlassian，背后有 60 多项集成承诺。
- 动态Microsoft On the Issues
微软发布 2026 负责任 AI 透明度报告：如何为未来调整治理
微软发布第三份年度《负责任 AI 透明度报告》，围绕自适应治理与技术风险管理、实用工具与能力、共享实践与合作伙伴关系三个方向调整其负责任 AI 项目。报告称已重构 Responsible AI Standard，按模型、平台服务、应用等技术栈组件分层设定要求，并对具备最强网络能力的 AI 系统施加最严格的风险管理措施。微软还推出 AI Red Teaming Agent、Agent evaluators、RAMPART、ASSERT 与 Agent Control Specification 等工具，用于智能体系统的评估、运行时控制和行为监控，并称其为少数在广泛产品组合上通过 ISO 42001 认证的公司之一。
- 动态NIST
NIST 发布 SP 1353 ipd：用 AI 分析 Cybersecurity Framework 2.0 快速入门指南并征询公众意见
NIST 发布 SP 1353 ipd《使用人工智能进行 Cybersecurity Framework 分析报告的快速入门指南》，公开征求意见至 2026 年 10 月 15 日。该指南提供结构化 AI 提示词，帮助从业者分析、规划、实施和监控组织达成 CSF 2.0 目标的进展，并给出三个示例用例：AI 辅助审查网络安全政策与风险治理、生成组织当前状态画像草案、以及基于内部与行业参考生成目标状态画像草案。指南中的虚构组织文件仅供示例，NIST 仅就指南与所附 AI 提示词征求意见。