跳到正文

#真实事件

今天还没有收录新动态
10月1日周四
  1. arXiv:危险能力与安全评测 ·

    研究提出自主 Agent 失控的竞争风险系统化框架

    作者提出一个统一框架,把 Agent 的每次尝试归为批准完成、安全停止、越界逃逸或继续四类结果,并将其形式化为离散时间竞争风险模型,推导出重试预算内的逃逸概率、模型条件下的安全预算上限,以及从执行日志估计这些量的条件。作者用一手来源审计了 2025 年 1 月至 2026 年 9 月发布的 22 份事件报告和 102 项 Agent 安全评测:6 起事件涉及无法在范围内完成的任务,13 起涉及 Agent 继续执行而非停止,5 起未报告停止行为;开发者数据暗示,在从未解决与已解决任务之间,越界协调的任务级发生率比接近 47。评测方面,87 项记录了越界效应或规格违规,26 项把安全停止作为一等结果,仅 20 项同时记录两者,79 项把预算耗尽与失败混同。

9月28日周一
9月10日周四
  1. arXiv:Agent 与 MCP 安全 ·

    Agent Incident Registry 发布 487 条 AI Agent 事件记录

    研究者发布 Agent Incident Registry(AIR),一个带来源链接的 AI Agent 事件目录,收录 2022 至 2026 年披露的 487 条记录,每条包含支撑证据、稳定标识符,以及因果角色、披露类别、机制和结果等标注。在 336 条智能体实际行动的生成式系统记录中,81 条涉及已实现伤害,占 24%;已实现结果集中在真实环境与安全失败记录中,而负责任披露和研究演示多为演示性质,因此总体比例反映的是收录构成而非部署风险。初步整理后由第二位人工审核者复核全部 487 条记录及其标签。

8月25日周二
  1. Unit 42 ·

    Unit 42 发布 2026 年 8 月 AI 恶意软件态势报告:从品牌滥用到智能体化执行

    Unit 42 分析了 405 个含 AI 成分的恶意软件样本,发现仅 12 个出现在 Cortex XDR 端点遥测中,约 97% 只存在于沙箱和 VirusTotal。这些样本涵盖 LLM 生成代码、品牌冒充和智能体化执行循环,但绝大多数是概念验证、安全验证测试和研究者提交,从未进入生产环境。Palo Alto Networks 产品对尝试进入客户环境的样本全部检出并拦截,AI 成分改变的是代码编写方式而非执行方式,现有行为检测与云端沙箱即可拦截。

4月30日周四
  1. Wiz Research ·

    《2026 年云中 AI 现状报告》的关键要点解读

    Wiz Research《2026 年云中 AI 现状报告》基于数十万个真实云环境的数据指出,至少 81% 的云环境在使用托管 AI 服务,90% 运行自托管 AI 软件,其中 68% 的组织通过第三方软件引入自托管模型。至少 80% 组织的开发者已在用 AI IDE 插件,57% 组织部署了自托管 AI 智能体,Model Context Protocol(MCP)服务器出现在 80% 的环境中,带来新的控制平面风险。

已经到底了