伊朗、中国和以色列公司被指用AI代理开展影响行动
先了解这件事
《纽约时报》调查显示，中国、伊朗及以色列两家私营公司利用可下载修改的中国开源 AI 模型创建 AI Agent，自主在 Instagram、Facebook、X/Twitter 和 TikTok 上批量注册虚假账号并发布政治与时事虚假信息。美国官员称，这是中国产模型的 AI Agent 首次被用于覆盖网络影响力行动的全流程，从建号到协调话术；开源模型被开发者改造以绕过平台的身份验证与反操纵护栏。调查人员认定中国和伊朗的行动有政府支持，两起以色列行动与私营公司相关。
AI 根据报道生成 · 2 天前更新
事件进展
- · 3篇报道OpenAI封禁俄伊虚假阵线影响行动账号
- · 3篇报道伊朗、中国和以色列公司社交媒体上开展首批AI代理影响行动
后续时间线
- 网页The Washington Post · Technology· 讨论A Florida local newspaper ran an op-ed. It was an Iranian AI fake.（新标签页打开原帖）
- The Decoder精选OpenAI 披露俄罗斯与伊朗影响行动并封禁相关 ChatGPT 账号
OpenAI 披露并封禁了两个分别来自俄罗斯和伊朗的影响行动所使用的 ChatGPT 账号，两者都用虚假身份向正规媒体植入内容，而非仅运营社交媒体账号。俄罗斯行动代号 Dark Clark，在拉丁美洲散布虚假信息以抹黑乌克兰并扰乱当地政治，通过虚构人设控制一家智库，可能在当地员工不知情的情况下将其卷入，伪造的音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认；OpenAI 依据 Breakout Scale 将其评为 6 级中的第 5 级，称这是两年半报告以来首个第 5 级案例。伊朗行动代号 Bogus Bylines，使用 7 名假记者在全球网络媒体发表近 100 篇关于美伊冲突的文章，并生成社交媒体评论，但几乎未获传播。OpenAI 称两个行动主要将 AI 用于内部报告撰写和把宣传内容适配成不同语言。
- 网页NPR · Technology· 讨论OpenAI caught Russians and Iranians using ChatGPT for influence campaigns（新标签页打开原帖）
- 公众号Doonsec· 讨论AI假记者、假智库攻入主流媒体：OpenAI首次披露第5级影响力行动（新标签页打开原帖）
- CyberScoop精选OpenAI 称俄罗斯和伊朗用 AI 假记者与智库影响西方媒体
OpenAI 披露已关停来自俄罗斯和伊朗的两个影响行动，它们用 ChatGPT 等 AI 工具伪造记者身份和隐蔽智库，并成功把叙事植入主流新闻媒体。俄罗斯相关的“Dark Clark”网络聚焦拉美政治与文化，其虚构人物 Mia Clark 被包装成拉美智库 Social Research Center 的负责人，内容主要损害乌克兰在拉美的声誉，也介入阿根廷和玻利维亚的政治议题；OpenAI 称这是其过去两年半里破坏的最复杂的伪装身份行动，并认为该智库实际由俄方控制。伊朗行动用类似工具投递关于美伊战争的文章，至少创建了七个假记者身份，在约十几家中小型国际事务媒体上以这些署名发表或转载近 100 篇文章，但互动寥寥。OpenAI 按 1 至 6 级评估影响，俄罗斯行动评为 5、伊朗行动评为 4，明显高于多数影响甚微的行动。
- OpenAI精选OpenAI 封禁俄罗斯与伊朗两起 AI 辅助虚假前台影响行动
OpenAI 宣布封禁两起利用 ChatGPT 支持虚假前台实体的隐蔽影响行动，一起源自俄罗斯，一起源自伊朗。俄罗斯行动被命名为 Dark Clark，运营者用 ChatGPT 撰写内部报告、生成行动内容，并通过名为 Mia Clark 的虚假人设控制自称研究平台的 Social Research Center，在拉美招募不知情员工产出原创内容，其散布的假消息引发事实核查与官方否认，按 IO Breakout Scale 评为第 5 级，是 OpenAI 开始报告以来首次封禁的第 5 级行动。伊朗行动被命名为 Bogus Bylines，使用七个虚假记者署名向约十几家中小型国际事务媒体投递近 100 篇关于美伊冲突的长文，并批量生成社交媒体评论，文章部分评为第 4 级，评论部分仅第 2 级。
- The Jerusalem Post精选调查称中国、伊朗和以色列团体用 AI Agent 运营虚假账号开展影响力行动
《纽约时报》调查显示，中国、伊朗及以色列两家私营公司利用可下载修改的中国开源 AI 模型创建 AI Agent，自主在 Instagram、Facebook、X/Twitter 和 TikTok 上批量注册虚假账号并发布政治与时事虚假信息。美国官员称，这是中国产模型的 AI Agent 首次被用于覆盖网络影响力行动的全流程，从建号到协调话术；开源模型被开发者改造以绕过平台的身份验证与反操纵护栏。特拉维夫公司 IntelEye 由前 NSO Group 员工创立，使用 DeepSeek 创建 Agent，运营约 1000 个账号围绕以色列大选发布同时支持与反对内塔尼亚胡的内容；联合创始人 Maor Sellek 称这是防御性研究，公司共购入 1 万个账号但仅约 1000 个投入运行，效果有限。Meta 表示已通过自动检测与验证系统移除绝大多数此类账号。
- Anadolu Agency《纽约时报》报道伊朗和中国用 AI 智能体开展新型影响力行动
《纽约时报》报道称，伊朗、中国以及以色列的相关团体近月来在社交媒体上使用 AI 开展新型影响力行动，引发美国官员和网络安全研究者对 AI 在极少人工参与下运行能力的担忧。行动使用可免费获取的中国 AI 模型创建自主智能体，数百个智能体被部署到 Instagram、Facebook、X 和 TikTok 上建立虚假账号网络，再发布政治和时事内容并协调互动。美国官员和研究者称，这是已知最早由上述中国模型驱动的智能体几乎参与影响力行动全流程的案例之一；行动手段相对粗糙，但显示出公开可用的 AI 系统能自动化此前需要大量人力的操作。伊朗行动针对美国受众，AI 生成账号假冒美国大城市普通人，发布流行表情包、标记记者和政界人士并推广批评共和党的观点，近 8 万人关注这些账号，账号在今年上半年活跃。
- 日期未标Quartz精选伊朗、中国与以色列私营公司被指用 AI 智能体运营社交媒体影响行动
美国官员称，伊朗、中国与以色列私营公司运营了社交媒体上首批由 AI 智能体自主执行的影响行动。据《纽约时报》报道，这些行动将可下载的中国开源模型与无需人工输入的智能体软件结合，在 Instagram、Facebook、X 和 TikTok 上批量创建虚假账号并投放针对政治议题和时事的编造内容；运营者还移除了模型内置的、本应阻止其生成虚假身份或扭曲网络讨论的限制。调查人员认定中国和伊朗的行动有政府支持，而两起以色列行动与私营公司相关而非国家。另据《卫报》报道，一个以不存在的智库名义运营的亲以色列网站九天内发布 124 篇报告、逾 56 万字，其注册方 Piro Inc. 已按《外国代理人登记法》向司法部登记为代以色列政府分发内容，其底层技术是一项以生成易被 AI 聊天机器人引用内容为卖点的商业服务。
相关讨论
- 72 小时以前 · 不计入 72 小时的数字
- 网页The Washington Post · TechnologyA Florida local newspaper ran an op-ed. It was an Iranian AI fake.（新标签页打开原帖）
- 网页NPR · TechnologyOpenAI caught Russians and Iranians using ChatGPT for influence campaigns（新标签页打开原帖）
- 公众号DoonsecAI假记者、假智库攻入主流媒体：OpenAI首次披露第5级影响力行动（新标签页打开原帖）
- 网页TechmemeOpenAI disrupts a Russian influence campaign tied to the Politology network that targeted schools, media, and foreign officials, and gives it a 5/6 impact score (Kevin Collier/NBC News)（新标签页打开原帖）
关注度走势
每天新增来源
- 10月8日新增3个来源（3家媒体、0个账号）
- 10月9日新增5个来源（5家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）