OpenAI 封禁俄罗斯与伊朗两起 AI 辅助虚假前台影响行动
Disrupting AI-enabled “false front” operations
AI 导读
OpenAI 宣布封禁两起利用 ChatGPT 支持虚假前台实体的隐蔽影响行动，一起源自俄罗斯，一起源自伊朗。俄罗斯行动被命名为 Dark Clark，运营者用 ChatGPT 撰写内部报告、生成行动内容，并通过名为 Mia Clark 的虚假人设控制自称研究平台的 Social Research Center，在拉美招募不知情员工产出原创内容，其散布的假消息引发事实核查与官方否认，按 IO Breakout Scale 评为第 5 级，是 OpenAI 开始报告以来首次封禁的第 5 级行动。伊朗行动被命名为 Bogus Bylines，使用七个虚假记者署名向约十几家中小型国际事务媒体投递近 100 篇关于美伊冲突的长文，并批量生成社交媒体评论，文章部分评为第 4 级，评论部分仅第 2 级。
推荐理由
OpenAI 披露两起被其封禁的隐蔽影响行动，其中俄罗斯行动首次达到 IO Breakout Scale 第 5 级，可供研究虚假媒体前台与 AI 辅助影响行动的团队参考。
阅读原文