识别与缓解生成式 AI 的安全风险

论文汇总了在 Google 举行、由斯坦福大学与威斯康星大学麦迪逊分校共同组织的研讨会成果，研究生成式 AI 的双重用途困境。大语言模型与扩散模型等生成式 AI 技术也可被攻击者用于生成新攻击，并提升现有攻击的速度与效力。论文讨论了社区在该议题上的短期与长期目标，希望为研究界提供讨论起点与待解问题。