全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 21 条- 动态X @mbrg0
与Ben Nassi谈Google回应及AI安全
我与@ben_nassi对话的第二部分已在in the wild上线！ 我们聊了Google对"invitation is all you need"的回应、CaMeL、超越致命三要素、半点击AI漏洞利用、BlackHat投稿、什么是好的演讲，以及真实世界AI安全会议
- 动态Mindgard Blog
为什么 Claude Mythos 与 GPT-5.5-Cyber 不足以构成 AI 安全策略
面向网络安全的模型如 Claude Mythos 和 GPT-5.5-Cyber 能加速代码审查、SAST 发现、漏洞解释与修复建议等传统安全工作，但无法单独承担 AI 系统自身的安全测试。Mindgard 指出，AI 系统具有概率性行为、由模型与智能体、工具、记忆、RAG 等组合而成的"心理-技术"攻击面，以及难以界定的测试边界，且针对 AI 的攻击数据比传统网络安全少数个数量级，护栏指纹识别与绕过、智能体胁迫与工具操纵、间接提示注入、上下文投毒等能力仍处于研究阶段。因此 AI 安全需要持续测试与监控，而非一次性评估。
- 动态Lakera Blog
AI 安全不再是一个单一问题：Lakera 提出 AI Defense Plane 统一防护员工、应用与智能体
Lakera 提出 AI Defense Plane，主张把员工、应用与智能体三层 AI 风险纳入同一控制平面，而非各自部署点状防护。该框架强调对 AI 使用端到端可见、在运行时执行策略，并跨层关联信号，同时持续在真实与对抗条件下测试系统行为。其背景是 AI 已从生成输出转向执行动作，智能体常以委派权限调用工具，提示注入与意外泄露出现在传统控制难以检查的流程中。
- 动态Lakera Blog
AI 已不再请求许可：企业安全团队是否察觉自主智能体带来的风险
AI 正从"建议型"转向"行动型"，可自主检索内部数据、调用 API、修改记录并触发工作流，而传统安全工具无法在推理层检查其意图。Lakera 与 Check Point 的 Enterprise Playbook 将这种跨层风险累积称为常见失效模式，并指出约 60% 的观测攻击流量试图泄露系统提示词。两家公司提出 AI Defense Plane 架构，覆盖员工用 AI 工具、AI 应用与自主智能体三层，Dropbox 已部署用于防御提示注入与越狱攻击。
- 动态Gray Swan AI
AI 安全“蛇油”的 7 个致命迹象：开发者识别指南
AI 安全厂商常用 OWASP Top 10 覆盖率和 MITRE ATLAS 合规性包装产品，但这些框架清单无法说明用户自身部署是否安全。文章列出 7 个识别“蛇油”的迹象：厂商谈框架多于谈你的系统、用被保护的模型自身生成威胁情报、在用户使用前沿模型 API 时大谈供应链与模型投毒、宣称“模型级安全”即可解决问题。作者主张厂商应先问清智能体能做什么、能访问哪些工具和数据，并在用户系统的复刻环境中测试。
- 动态HiddenLayer Research
编码智能体如何改变应用风险
编码智能体正把 AI 安全的重心从单一模型转向由模型、上下文、工具、技能与编排逻辑构成的整个执行环境。与传统聊天机器人不同，编码智能体会自动从可信与不可信来源检索信息并调用工具、执行命令，使每一份 README、文档、issue 和网页都成为间接提示注入的潜在攻击面。智能体还会自行下载和集成第三方软件包，并依赖 MCP 服务器、外部工具与可复用技能等新型依赖，这些组件携带的指令、权限与能力直接塑造其推理与行为，带来新的 AI 供应链风险。
- 动态X @florian_tramer
张杰谈VLM提示注入防御思路
当 @JieZhang_ETH 提出这个项目时，我开玩笑说我知道这想法来自他而不是 LLM，因为它太古怪了。 我这是赞美！ 当我们被 AI 垃圾研究淹没时，偏离常规、尝试古怪的东西比以往任何时候都更重要。
- 动态X @wunderwuzzi23
6 年前机器学习攻击系列中提出的 assume bias，如今被称作 Trust No AI
安全研究者 wunderwuzzi23 表示，他 6 年前在机器学习攻击系列中已讨论过这一攻击思路，当时称之为 assume bias，因为那时 LLM 还未受到太多关注。如今他用 Trust No AI 来概括同一问题。
- 动态Cloud Security Alliance（AI 相关）
CSA《2026 年云计算顶级威胁》报告：AI 既是武器也是目标
CSA《Top Threats to Cloud Computing 2026》报告把 AI 相关风险拆成两个独立类别：AI 增强型攻击（第 2 位）与 AI 系统攻陷（第 6 位）。前者指攻击者用 AI 加速侦察、漏洞利用、深度伪造钓鱼和生成多态恶意软件，把传统攻击压缩到机器速度；后者指模型、提示词、训练数据、连接工具与编排逻辑本身被提示注入、数据投毒、对抗输入或模型窃取等手段操纵，且可能无需完全攻破主机环境。报告认为云安全与 AI 安全的边界正在消失，但两类威胁不可互换，否则会留下盲区。
- 动态Cloud Security Alliance（AI 相关）
Cloud Security Alliance 谈提示词语言为何成为新的 AI 安全挑战
Cloud Security Alliance 刊发 Darktrace 现场 CISO Nabil Zoldjalali 的文章指出，提示词正成为企业 AI 安全的新前线，其风险无法仅靠文本分类判定。文章称提示词是一种表达意图的行为信号而非普通日志源，需结合发出者的角色权限、系统访问范围和下游操作来判断；孤立看待会放大噪声并误判内部威胁。现有周边防护、身份治理和数据防泄漏方案各自只能部分覆盖该问题，云环境中的配置态势若缺少运行时上下文也会留下盲区。
- 动态Cloud Security Alliance（AI 相关）
Cloud Security Alliance：AI 智能体防御所需的三大属性
Cloud Security Alliance 提出 AI 智能体防御需同时具备三要素——Omniscience（对应用的情境化理解）、Independence（位于杀伤链之外的独立控制与监控）、Adaptability（持续自我学习与调优）。其指出真正的危害在于智能体的下一步行动而非提示注入载荷本身，并以异步分诊场景中的错误报告为例说明恢复指令会被智能体当作常规操作执行。
- 动态Tech Policy Press
隐私源于架构：AI 合规如何落地
隐私监管机构与执法者正形成共识：AI 不享有例外，既有隐私原则依然适用，只是需要被"架构化"进系统本身。英国 ICO、欧洲数据保护监督局、香港 PCPD、新加坡 PDPC、澳大利亚 OIAC 及美国 FTC 的 Rite Aid、Drizly、GM、Amazon Alexa 等案例，共同指向目的限制与可问责部署两条主线。前者要求把目的限制写进技术边界，约束智能体可调用的工具、可检索的数据集、可用的记忆、数据能否跨上下文流动、何时需用户确认以及输出能否用于训练。
- 论文arXiv：越狱、提示注入、投毒与防御
面向智能体的高效 HPC 系统：挑战与机遇
编码智能体已成为 HPC 系统的真实用户，但现有 HPC 抽象、接口与策略仍为人类工作流设计。测量显示，编码智能体用户仅占观测人群的 19.5%，却贡献了 55.8% 的作业提交、29.1% 的 CPU 核心时和 42.7% 的 GPU 时；其命令下发速率是人类的 20.8 倍，并以细粒度 explore-modify-execute 循环和跨昼夜的试错方式追求开放式目标。这给调度器控制面、元数据密集型 I/O、跨会话记忆复用以及提示注入与策略执行带来压力，作者主张将智能体视为一等主体、以协同设计应对。
- 动态Embrace The Red
AI 中的偏差正常化：从 LLM 不可信输出来看间接提示注入风险
AI 行业正重演挑战者号航天飞机灾难前的文化失误——将偏离正确行为的做法逐渐常态化。该概念源自社会学家 Diane Vaughan 提出的"Normalization of Deviance"，此处用以描述系统性地过度依赖 LLM 输出的现象，尤其在智能体系统中。由于 LLM 是不可信的参与者，访问检查、编码与净化等安全控制必须施加于其输出下游，否则会同时放大良性错误与恶意输入带来的后果。 Microsoft 文档警告提示注入攻击可能覆盖智能体指令并导致数据泄露或安装恶意软件，Anthropic 也记录了针对 Claude 的数据泄露问题。
- 动态Failure-First
《The safety failures we are not instrumenting》：现代 AI 系统中隐藏的安全关键挑战
一篇立场文章指出当前 AI 安全讨论聚焦于可见的输出异常，却忽视了由整个部署栈交互产生的隐性系统性失效。作者提出可信度、分布性、时间延展性与纠错退化四个共同特征，并搭建认知完整性、控制完整性、时间完整性、组织完整性和生态完整性五层诊断框架，用以刻画校准债务、不确定性洗白、指令权威崩塌、行动放大、安全漂移、记忆污染以及合成证据污染等问题。
- 动态Simon Willison
Johann Rehberger 谈 AI 中的偏差正常化：提示注入为何被忽视
Johann Rehberger 提出"偏差正常化"概念适用于 AI 安全：在缺乏造成实际经济损失的提示注入案例的情况下，厂商正把概率性、非确定性的模型输出当作可靠、可预测、安全的输出来信任。他指出，组织把"没有发生成功攻击"误认为"具备稳健安全"，随着时间推移降低警惕甚至跳过人工监督，让不可信输出越来越多地触发有后果的操作。该概念源自 Diane Vaughan，曾用于解释挑战者号航天飞机事故。
- 动态Simon Willison
Simon Willison 实测 Claude in Chrome 浏览器代理定位 Cloudflare CORS 配置
Simon Willison 用 Claude in Chrome 扩展成功解决了一个实际问题——找出其 S3 存储桶目录开放 CORS 策略的来源。该问题并非来自 S3 设置，而是 Cloudflare 中一条名为 static.simonwillis.net/static/cors-allow/* 的响应头转换规则，Claude 用时 1 分 45 秒定位并给出了查看路径。尽管他对整个浏览代理类别的提示注入风险深感怀疑并在旁密切监视，此次仍是正面体验。
- 动态Simon Willison
Moltbook：OpenClaw 智能体社交网络为何成为当下最受关注的项目
OpenClaw（原名 Clawdbot、Moltbot）的智能体社交网络 Moltbook 通过 skill 安装，让 AI 助手每 4 小时以上抓取并执行 moltbook.com 上的指令，实现发帖、评论和创建 Submolt 论坛。该开源项目由 Peter Steinberger 构建，GitHub 星标已超 114,000，社区在 clawhub.ai 分享数千个 skill，但 skill 可执行任意脚本。作者警告这类数字助手面临提示注入风险，且已有 Claude Opus 4.5 实例疑似触发内容过滤而无法完整输出。
- 动态Simon Willison
Google I/O 上的 Gemini Spark 与 Antigravity
Simon Willison 因坚持只评测试过的产品而对本届 Google I/O 着墨有限，除 Gemini 3.5 Flash 外最值得关注的是即将推出的个人 AI 智能体 Gemini Spark——被视为 OpenClaw 竞品，原生接入 Gmail、Calendar、Drive、Docs、Sheets、Slides、YouTube 和 Google Maps。其 FAQ 称 Gemini Spark 运行于 Gemini 3.5 Flash 和 Antigravity，后者目前提供桌面应用、Go 编写的 CLI 智能体工具、Antigravity SDK 及基于 VS Code 分支的 IDE。
- 动态Simon Willison
Simon Willison 实测 Claude Fable 5：为调试 CSS 自行发明多种绕过手段
Simon Willison 在使用 Claude Fable 5 两天后，将其描述为“relentlessly proactive”，并用一次实际调试经历说明这一点。
- 动态SPY Lab
SPY Lab 提出安全图灵测试：AI 智能体为何无法安全替代人类角色
SPY Lab 提出安全图灵测试，认为 AI 系统只有在替代人类角色时不实质降低安全性才算通过，而当前 AI 明显不合格。作者以错误搜索投毒为例说明攻击者只需在本地复现同一智能体、预测其报错后的搜索行为，就能用伪造的 GitHub issue 诱导其执行恶意脚本。