CNA 追访 Anthropic 报告披露的未标注 AI 人设交友应用网络

CNA 追访了 Anthropic 9 月 10 日报告披露的一个中国工作室运营的交友应用网络，该网络用 Claude 驱动 AI 人设与用户聊天，却对外宣称全部为真人。Anthropic 称在 4 月的两周内发现超过 4700 个 AI 人设与至少 2.5 万人对话，共约 236 万条消息，用户看到的资料约 75% 为 Claude 人设、25% 为真人，且无法分辨。人设被要求绝不承认自己是自动程序，并回避视频通话或照片请求；真人以零工形式被招募，按消息、通话和社交媒体回关计酬，负责实时视频通话，部分回复也由另一个非 Anthropic 模型生成三个选项供其挑选。Anthropic 表示已封禁相关账号并与其他 AI 实验室合作切断该操作的模型访问，但未点名该工作室。