Skip to content

Translation in progress Some entries still include text in the original language.

隐私与数据泄露 · News

Oct 13 · Tuesday

隐私与数据泄露 · News

Latest publications and developments
Oct 1Thu
  1. PPC LandPPC Land · 48

    MLCommons releases draft framework for AI agent privacy risk classification

    MLCommons released the v0.1 draft of the Agent Privacy Risk Taxonomy on October 1, categorizing how autonomous agents process personal information into 25 numbered risk vectors under five domains, along with a six-stage assessment method that traces from trigger conditions to downstream harm. The document is 15 pages long, written by the Privacy and Confidentiality working group, lists 19 authors, and has a cover date of September 2026. Among the five domains, data ingestion accounts for 7 vectors, aggregation, use, and sharing account for 9, cross-agent practices account for 3, and the remaining domains such as failure of traditional consent mechanisms account for the remaining vectors.

Sep 25Fri
  1. Trail of Bits · 22

    别让 TEE 破坏你的 MPC:TEE 与阈值签名结合的安全陷阱与最佳实践

    在 TEE 内运行 MPC 协议时,若未考虑不可信主机,恶意主机可在阈值签名者删除已用预签名后回滚文件系统状态,导致 nonce share 被重用并泄露私钥分片。TEE 的机密性、完整性与远程证明可把半诚实协议提升到恶意安全级别,但前提是将其视为纵深防御层而非健全协议的替代品。部署时需验证 quote 签名、证书链与测量值,并借助可复现构建和二进制透明日志绑定 MPC 参与方身份。

Sep 9Wed
  1. Adversa AI · 27

    OWASP 2026 LLM Top 10 等 15 项 GenAI 安全资源汇总

    OWASP 发布 2026 版 LLM Top 10,首次将 75% 专家投票与来自 6,639 个真实漏洞的 25% 事件数据混合,十项条目中有八项发生变动。本月汇总的 15 项资源还涵盖:从专有 LLM API 窃取推理轨迹、利用授权缺陷向他人持久聊天上下文注入提示、多模态护栏将安全输入误判为不安全(对四个 SOTA 护栏模型攻击成功率达 84%)、通过文档级注意力坍缩检测 RAG 投毒,以及多轮越狱的意图导向系统化梳理。

Jul 2Thu
  1. NVIDIA NeMo Guardrails 版本发布 · 15

    NVIDIA NeMo Guardrails v0.23.0 发布:IORails 扩展工具调用与可观测性

    NVIDIA 发布 NeMo Guardrails v0.23.0,IORails 的工具调用现同时支持流式与非流式请求,并新增本地 rail 校验模型发出的工具调用与应用返回的结果。该版本的 OpenAI 兼容服务器也支持工具调用,且新增 /v1/checks 端点可在不生成新模型响应的情况下运行输入或输出 rail。此外还加入轻量级 Hugging Face 分类器 rail、上下文膨胀检测以及 Polygraf 集成实现 PII 检测与掩码,NumPy 精确检索取代 Annoy 成为默认嵌入索引,发行 wheel 体积缩小约十倍,并要求 Pydantic>=2.5。

Jun 6Sat
  1. NVIDIA garak 版本发布 · 15

    NVIDIA garak v0.15.1 发布:新增 ProPILE 隐私泄露检测探针

    NVIDIA 的 LLM 漏洞扫描工具 garak 发布 v0.15.1,新增 ProPILE 探针用于 PII 泄露检测,并加入 simonw/llm 库作为生成器支持。garak.analyze.qual_review 现支持 JSON 与文件输出模式。该版本还修复了 OpenAICompatible 中 response.choices 为 None、Hugging Face 文件探针本地路径处理、snowball 检测器 MISP 标签格式错误等问题,并移除已弃用的 maxrecall 评估器。

Dec 13, 2025Sat
  1. NVIDIA garak 版本发布 · 15

    NVIDIA garak v0.13.3 发布:新增 API Key 探测插件与 AWS Bedrock 生成器

    NVIDIA garak 发布 v0.13.3,新增检测 API Key 泄露的探针及配套检测器和零宽坏字符注入探针,并加入 AWS Bedrock 生成器。该版本还改进 unreal pkghallu 目标覆盖、令 OpenAICompatible 类默认单次生成一条回复,并为生成器启用一致的 PRNG 访问。此外引入延迟加载与依赖裁剪、AVID 报告导出中 metadata 与 vuln_id 处理的多项修复。

Nov 15, 2024Fri
  1. NVIDIA 技术博客:可信 AI 与网络安全 · 6

    Super Protocol 如何用自主权 AI 与 NVIDIA 机密计算实现去中心化隐私

    Super Protocol 借助区块链去中心化扩展 NVIDIA 机密计算(CC)能力,让 AI 开发、训练与推理中的用户数据实现去中心化、私密且由用户自主掌控。该方案针对自主权 AI 场景,将机密计算与去中心化结合,解决数据隐私与控制权问题。

You have reached the end