OpenAI 披露俄罗斯与伊朗影响行动并封禁相关 ChatGPT 账号
OpenAI uncovers Russian and Iranian influence ops that planted fake stories in real news outlets
AI 导读
OpenAI 披露并封禁了两个分别来自俄罗斯和伊朗的影响行动所使用的 ChatGPT 账号,两者都用虚假身份向正规媒体植入内容,而非仅运营社交媒体账号。俄罗斯行动代号 Dark Clark,在拉丁美洲散布虚假信息以抹黑乌克兰并扰乱当地政治,通过虚构人设控制一家智库,可能在当地员工不知情的情况下将其卷入,伪造的音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认;OpenAI 依据 Breakout Scale 将其评为 6 级中的第 5 级,称这是两年半报告以来首个第 5 级案例。伊朗行动代号 Bogus Bylines,使用 7 名假记者在全球网络媒体发表近 100 篇关于美伊冲突的文章,并生成社交媒体评论,但几乎未获传播。OpenAI 称两个行动主要将 AI 用于内部报告撰写和把宣传内容适配成不同语言。
推荐理由
OpenAI 披露两起利用 ChatGPT 账号在真实媒体植入假新闻的影响行动,并给出分级依据,可了解 AI 滥用被平台发现与处置的实际形态。
阅读原文