Nicholas Carlini 公开其 2016–2019 年研究想法日志文件
My research idea logfile, 2016-2019
AI 导读
Nicholas Carlini 公布了自己从 2016 年 3 月至 2019 年底维护的研究想法清单 ideas.txt，并附上截至 2024 年 1 月的逐条回顾注释。他的做法是把当时自认足够好的点子追加写入单一文件，只在每年少数几次通读筛选，从而保证一个好点子至少经过写下与重读两次检验。该记录聚焦对抗机器学习方向，例如针对分类器构造最小改动即可骗过它的生成器，以及无目标攻击其实等同于指向最近其他类别的定向攻击等问题。