跳到正文
10月4日周日
  1. 论文追踪 · 收录 · 原文 论文39

    研究:生成式 AI 模型中的概率性复制与版权认定

    Mark A. Lemley 与 A. Feder Cooper 在论文中讨论,已有研究显示可从部分大语言模型中提取某些受版权作品的逐字或近似逐字文本,说明模型权重以某种形式编码了这些作品。作者指出 LLM 并非以数据库格式存储信息,而是存储从训练数据中学到的 token 间统计关系,生成过程常是概率性的而非确定性的。版权法此前未处理过这种可能产生相似输出、也可能不产生的信息存储是否构成复制。作者认为,现行法下最可能的结果是采取功能性路径,即只有当某作品能被直接提取到输出中时,才认定模型包含该作品的复制,并指出这一结果在政策层面并不令人满意,提出了可能的修法方向。论文即将发表于 Berkeley Technology Law Journal。

  2. 论文追踪 · 收录 · 原文 论文36

    研究:EdTech 平台将隐私与 AI 披露推迟到产品后期

    一项混合方法研究考察了教育科技(EdTech)平台如何处理学生隐私与 AI 披露。研究者对 12 名 EdTech 从业者进行半结构化访谈,并对 48 家平台的隐私政策按五个维度编码审计,评分者间信度较高(平均 Cohen's Kappa = 0.781)。访谈显示,隐私虽被认可为重要,却常在产品生命周期中被推迟,组织优先考虑功能、增长、融资和即时教学效果,并把责任转嫁给云服务商、政策文件或下游机构。政策审计发现,平台对收集哪些数据描述较充分,但对数据后续治理说明明显不足:33% 的平台在存在可见 AI 功能的情况下未做有意义的 AI 披露,73% 只提供笼统的问责与泄露响应措辞。K-12 平台在监管有明确要求时对儿童同意的处理更好,但这一优势未延伸到 AI 治理或问责。

10月3日周六
  1. 论文追踪 · 收录 · 原文 论文49

    研究者质疑 Alignment Whack-a-Mole 的书籍记忆化结论,称其测量方法无效

    研究者 A. Feder Cooper 发布 arXiv 评论文章,认为 Alignment Whack-a-Mole 中关于微调导致书籍记忆化的核心结果使用了无效的测量流程。她指出,这些结果依赖的书籍记忆化覆盖率指标所统计的序列匹配长度远短于领域公认的记忆化证据标准,用于诱发记忆化的提示词流程还可能把待提取文本泄露进提示词中。论文缺少负对照实验,无法判断结果中有多少来自假阳性,即在生成内容与训练数据的匹配可能源于其他因素时仍宣称提取成功。她据此认为,论文关于微调可让用户提取受版权保护书籍中足以替代原作的相当部分内容的说法缺乏结果支持,且未报告实验成本这一威胁模型的重要组成。她提到,过去一个月有潜在原告联系她,希望将该论文作为正在和可能发生的版权诉讼中的有效证据。

已经到底了