OpenAI 宣布封禁两起利用 ChatGPT 支持虚假前台实体的隐蔽影响行动,一起源自俄罗斯,一起源自伊朗。俄罗斯行动被命名为 Dark Clark,运营者用 ChatGPT 撰写内部报告、生成行动内容,并通过名为 Mia Clark 的虚假人设控制自称研究平台的 Social Research Center,在拉美招募不知情员工产出原创内容,其散布的假消息引发事实核查与官方否认,按 IO Breakout Scale 评为第 5 级。另有报道称,美国官员表示伊朗、中国与以色列私营公司运营了社交媒体上首批由 AI 智能体自主执行的影响行动;据《纽约时报》报道,这些行动将可下载的中国开源模型与无需人工输入的智能体软件结合,在 Instagram、Facebook、X 和 TikTok 上批量创建虚假账号并投放针对政治议题和时事的编造内容,运营者还移除了模型内置的、本应阻止其生成虚假身份或扭曲网络讨论的限制。调查人员认定中国和伊朗的行动有政府支持,而两起以色列行动与私营公司相关而非国家。CyberScoop 报道称,OpenAI 披露已关停来自俄罗斯和伊朗的两个影响行动,它们用 ChatGPT 等 AI 工具伪造记者身份和隐蔽智库,并成功把叙事植入主流新闻媒体;俄罗斯相关的 Dark Clark 网络聚焦拉美政治与文化,其虚构人物 Mia Clark 被包装成拉美智库 Social Research Center 的负责人,内容主要损害乌克兰在拉美的声誉,也介入阿根廷和玻利维亚的政治议题,OpenAI 称这是其过去两年半里破坏的最复杂的伪装身份行动。