跳到正文

隐私与数据泄露

今天还没有收录新动态
隐私与数据泄露

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindMetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月7日周三
  1. The Guardian · 人工智能 · 收录 · 原文 27

    伯明翰大学上线 Stuart Hall 数字档案，以“数据投毒”阻止 AI 爬取

    伯明翰大学将文化研究学者 Stuart Hall 的 3100 余件手稿、笔记、录音和视频数字化上线，并让数字档案经过一道“毒化数据”程序，禁止 AI 机器人抓取。项目负责人 Rebecca Roach 表示，建这个档案不是“供 AI 抓取”并商业化，平台要避免重演技术历来对有色人种及其文化遗产的剥削。档案还包含探讨 Hall 对大语言模型架构影响的研究项目 Encoding/Decoding Cybernetics。

    AI 动态#隐私与数据泄露#AI 动态
    1 条报道 · 1 个来源查看事件时间线与全部报道
10月6日周二
  2. BleepingComputer · 收录 · 原文 ↑159

    OpenAI 将在欧盟为 ChatGPT 和 Codex 文本加入不可见水印

    OpenAI 准备在未来几周为欧盟地区符合条件的 ChatGPT 和 Codex 文本输出加入不可见水印，该水印在阅读或复制时不可见，通过 textGrain 技术微调模型用词形成可检测的统计模式。全球 API 开发者即日起可对支持的模型选择开启水印，默认关闭；水印检测器同时开放申请，初期仅限获批的研究者和专家机构。OpenAI 自己的测试显示水印容易被编辑破坏，在 400 token 段落中替换 10% 同义词使检测率从约 92% 降至 66%，替换 25% 降至 17%；在 1% 误报率下，200 token 心理学回答的检测率约 80%，400 token 时约 95%，数学等用词自由度低的主题检测更差。OpenAI 提醒，未检测到水印不能证明文本由人类撰写，检测到水印也不会透露生成者身份、账号、提示词或对话内容，且无法判断最终作品有多少由人类撰写或编辑。

    AI 动态#OpenAI#隐私与数据泄露#AI 动态
    1 条报道 · 1 个来源查看事件时间线与全部报道
10月3日周六
  1. arXiv · 收录 · 原文 论文15

    基于差分隐私扩散模型的能源时间序列插补：裁剪感知的目标条件化方法

    针对能源时间序列缺失值插补，研究提出裁剪感知的目标条件化方法，在固定阈值 DP-SGD 下用 v-prediction 缓解余弦扩散调度后期低 SNR 时间步的梯度放大，并引入扩散调度感知的动态加权在裁剪前加强衰减。在五个真实能源时间序列数据集上，覆盖随机点缺失、连续块缺失、持续中断及多种缺失严重程度，该方法在匹配 DP-SGD 设置下插补效用一致优于 ε-prediction 基线。梯度诊断显示裁剪前梯度范数上尾更低、裁剪比例下降，后期低 SNR 时间步衰减更强。

    AI 动态#隐私与数据泄露#AI 动态#arXiv
已经到底了