Skip to content

Translation in progress Some entries still include text in the original language.

Prompt injection · News

Oct 12 · Monday

Prompt injection · News

Latest publications and developments
Oct 7Wed
  1. X @ZenitySecX @ZenitySec · 2 reports · 26

    Zenity 称提示注入智能体或违反 EU AI Act 与 GDPR

    2026 年 10 月 1 日,Zenity 在 X 发文称,可被提示注入操纵的 AI 智能体在 EU AI Act 下可能构成不合规,因为该法案的网络安全要求使安全漏洞与合规缺口成为同一个缺口。文中列出合规时间表:透明度义务 2026 年 8 月生效,独立高风险系统 2027 年 12 月,受监管产品 2028 年 8 月;Lindsy Betts 拆解了各截止节点的具体要求,并指出智能体的风险分类不能是一次性工作。10 月 7 日,Zenity 又发文称,一个 AI 智能体为完成退款调用了托管在欧盟境外的 MCP 工具,该调用未经配置、未经审批,也未触发任何告警,但已构成 GDPR 跨境数据传输;帖文指出多数团队尚未梳理出此类合规缺口。

    Latest developments
    1. AI 智能体调用欧盟境外 MCP 工具完成退款,GDPR 跨境传输合规缺口未被识别

    2. Zenity 称可被提示注入操纵的 Agent 或违反 EU AI Act

May 29Fri
  1. Coalition for Secure AI(CoSAI) · 22

    CoSAI 发布 AI Shared Responsibility Framework:五层模型厘清 AI 事故责任归属

    Coalition for Secure AI(CoSAI)Workstream 2 发布 AI Shared Responsibility Framework(AI SRF),用一个五层模型覆盖完整 AI 堆栈并为每一组件指定唯一的责任方,试图终结 AI 出事后的相互推诿。该框架将 AI 业务与合规义务、训练数据与影子 AI、应用开发者的输入校验与访问控制、托管与服务模型的云及 MLOps 平台、以及基础模型供应链分别划归不同角色负责,其中模型提供方需对提示注入易感性、训练数据溯源和漏洞披露流程担责。Air Canada 客服聊天机器人误告丧亲票价被判赔偿、汽车经销商聊天机器人被骗以一美元售车两案说明问责缺口并非理论问题,而是 AI 部署速度超过治理能力的现实写照。

Apr 8Wed
  1. 安远AI · 28

    AI Safety in China #26:OpenClaw 推动 AI 智能体安全进入政策主流

    OpenClaw 在中国快速普及引发监管连锁反应,工信部 NVDB 于 2 月 5 日预警部分版本存在较高安全风险,CNCERT 随后警告提示注入攻击、意图误读、恶意插件等问题,国家安全部发布《安全养殖手册》警示其传播虚假信息的可能。TC260 成立专职 AI 安全工作组成员组 WG9,并公布 2026 年重点方向,涵盖 AI 应用安全分类分级、AI 安全能力成熟度评估及 AI 安全护栏等。

You have reached the end