生成式 AI 如何同时赋能信任与安全领域的攻击者与防御者

一项针对43名信任与安全专家的研究，考察生成式AI如何在儿童安全、选举公正、仇恨与骚扰、诈骗和暴力极端主义五个领域同时赋能攻击者与防御者。研究发现，生成式AI大幅提升攻击的规模与速度，降低制作复杂宣传内容和深度伪造等有害内容的门槛。防御方则设想用其大规模检测与缓解有害内容、开展调查、部署反叙事、改善审核员福祉并提供用户支持。