个性化 AI 正在重演社交媒体最糟糕的那一套
Personalized AI is rerunning the worst part of social media's playbook
AI 导读
CDT 旗下 AI Governance Lab 负责人 Miranda Bogen 撰文指出，OpenAI、Google 等公司的记忆功能和基于多年行为画像的用户档案正把个性化推向更深层风险——系统能记住对话中的职业安排乃至家庭矛盾、人际纠纷等信息，其危害可能超过社交媒体推荐算法造成的操纵与歧视，而已有的 AI 安全框架主要针对基础模型的固有能力和国家安全威胁，并未设计来应对这类由个人数据积累引发的新风险类别。