美国慈善机构计划用 AI 监测加沙课堂言论引发隐私争议

美国慈善机构 Gaza Children Village 计划录制加沙课堂对话，用 AI 系统标记被判定为“仇恨”“煽动”或“反犹”的言论，一旦检测到问题语言便向创始人 David Hasan 发出警告，由其联系教师了解语境并反馈，录音保存 72 小时。Hasan 在去年 9 月的网络研讨会上称，监测课堂是为了培训教师维护其所谓“去激进化”课程，并承认此举有争议。该计划引发巴勒斯坦及倡导团体、至少一个合作方的伦理、安全和隐私担忧：董事会成员 Bishara Bahbah 表示事先不知情，认为用摄像头让学生和教师噤声不可接受；一名合作援助组织官员称可能因此重新考虑合作，并称用 AI 监测言论打开了“潘多拉魔盒”。Hasan 称技术已测试，计划部署到数十间教室，并称系统与纽约非营利机构 PollyLabs 合作开发，PollyLabs 表示未参与此类技术的开发或部署。