Anthropic披露Claude被用于选举操控与信息战
先了解这件事
Anthropic 9月发布的威胁评估披露，Claude 被用于在马来西亚搭建商业化选举操纵平台，运营约1000个X账号和一个名为 Malaysia Pulse 的假新闻媒体，伪造文件并抓取人口普查与选举数据，针对全部222个国会选区，利用种族、宗教和王室议题影响选民，Anthropic 介入后该行动失效。同一份9月报告《Detecting and Countering Misuse of AI》称，俄罗斯相关人员在中非共和国利用 Claude 生成亲俄宣传内容，供据称由俄罗斯资助的 Radio Lengo Songo 播出，并用于监控反对派政客；Claude 拒绝了将反对派人物描述为武装分子的请求。另一份技术滥用报告点名 Romi 等20多款面向美国用户的交友应用，称其用 Claude 驱动 AI 人设冒充真人，今年4月两周内超过4700个虚拟人物与至少2.5万人交谈，发送约236万条消息，用户所见资料约75%为 AI 人设。
AI 根据报道生成 · 3 天前更新
事件进展
后续时间线
- 8worldAnthropic 报告点名 Romi 等 20 多款交友应用用 AI 人设冒充真人
Anthropic 在技术滥用报告中点名 Romi，称其是一家中国工作室运营的 20 多款面向美国用户的交友应用变体之一，被归类为欺诈及诈骗活动。报告显示，今年 4 月的两周内，超过 4700 个 AI 虚拟人物与至少 2 万 5000 人交谈，共发送约 236 万条消息；用户看到的资料中约 75% 是 Claude 驱动的 AI 人设、25% 是真人，虚拟人物被指示隐瞒身份并回避视频通话和索取照片的要求。真人以零工身份受聘负责实时通话和社交媒体回关，部分文字回复由另一 AI 模型辅助生成。Anthropic 已封禁相关账号，并联合其他 AI 实验室切断模型访问权限。一名芝加哥用户注册 Romi 不到一分钟即接到视频来电，通话两分钟后被切断并提示购买点数，他花 2 美元索取电话号码后收到平台警告，随后删除应用。
- DW精选Anthropic 报告称 Claude 在非洲多国被用于俄罗斯信息操控行动
Anthropic 在 9 月发布的《Detecting and Countering Misuse of AI》报告中称，俄罗斯相关人员在中非共和国利用 Claude 生成亲俄宣传内容，供据称由俄罗斯资助的 Radio Lengo Songo 电台播出，并用于监控反对派政客。报告称 Claude 还被提示将反对派人物描述为武装分子以促使安全部队采取行动，但 Claude 拒绝了该请求。报告未点名被监控的反对派人物，也未说明所收集数据的具体性质及接收方。Anthropic 称已在 2025 年 12 月至 2026 年 8 月间发现并关闭上述行动，主要方式是删除相关账号并加强检测系统。俄罗斯驻中非共和国使团代表 Dmitri Sytyi 回应称报告没有具体事实，是缺乏证据的模糊指控。
- The Guardian · 人工智能Anthropic 披露 Claude 被用于马来西亚选举影响行动
Anthropic 在 9 月发布的威胁评估中披露，Claude 被用于在马来西亚搭建一个商业化的选举操纵平台，运营约 1000 个 X 账号和一个名为 Malaysia Pulse 的假新闻媒体，并伪造文件，抓取人口普查与选举数据，针对全部 222 个马来西亚国会选区，利用种族、宗教和王室等敏感议题影响选民。Anthropic 介入后该行动失效。报告称，相关行为者包括政府、与国家立场一致的宣传机构和官方媒体，以及出售影响力的私营公司，目标受众遍及六大洲。假新闻媒体会抓取马来西亚正规报道，让模型多次改写后以虚构署名发布，还去除来源后转载 TV BRICS、Xinhua、Sputnik/RIA 和 CGTN 等外国官方立场媒体的文章。
相关讨论
关注度走势
每天新增来源
- 10月1日新增1个来源（1家媒体、0个账号）
- 10月2日新增0个来源（0家媒体、0个账号）
- 10月3日新增0个来源（0家媒体、0个账号）
- 10月4日新增0个来源（0家媒体、0个账号）
- 10月5日新增1个来源（1家媒体、0个账号）
- 10月6日新增0个来源（0家媒体、0个账号）
- 10月7日新增1个来源（1家媒体、0个账号）
- 10月8日新增0个来源（0家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）