招聘公司 Futura Energy Group 创始人 Tom Watson 被 Hope Not Hate 指控运营 X 账号"Big Time Charlie"。该账号在近 5 万粉丝规模下,对 RNLI 员工、反种族主义活动人士及招募少数族裔员工的企业高管实施"人肉",并疑似用 AI 从 LinkedIn 等站点抓取数据搭建所谓"Traitorbase"。账号在被点名后随即停用,其帖子曾多次称赞极右翼议员 Rupert Lowe。
美国慈善机构 Gaza Children Village 计划录制加沙课堂对话,用 AI 系统标记被判定为“仇恨”“煽动”或“反犹”的言论,一旦检测到问题语言便向创始人 David Hasan 发出警告,由其联系教师了解语境并反馈,录音保存 72 小时。Hasan 在去年 9 月的网络研讨会上称,监测课堂是为了培训教师维护其所谓“去激进化”课程,并承认此举有争议。该计划引发巴勒斯坦及倡导团体、至少一个合作方的伦理、安全和隐私担忧。
Goodfire Research、BasetenGoodfire Research 等 2 个来源 · 2篇报道 · 关注度3131
PCI 安全标准委员会(PCI SSC)发布《AI 系统安全考量》指引,覆盖支付环境中提供给 AI 系统的数据保护以及针对 AI 辅助攻击的防御,内容涉及治理、部署、访问控制、测试和 PCI 标准的适用。该指引为咨询性质,现有 PCI 要求优先。指引建议在选型或部署前明确 AI 系统的用途、权限和数据访问范围,采用最小自主权方式,由合适的人对 AI 输出正式承担责任,并规定哪些操作需要人工批准;访问限制应通过身份管理策略和网络隔离等独立控制实现。
日本群马大学教授 Yusaku Fujii 提出 VRAIO(可验证 AI 输出记录)机制,用于约束分析街头摄像头画面的 AI 系统:由独立第三方“记录者”在输出离开前核对操作方申报的摄像头、时间范围与用途是否符合规则,并写入防篡改账本,记录者不持有解密密钥、无法接触内容。该机制只能验证申报是否合规,无法判断申报是否属实,需靠突击审计比对实际输出,违规者可面临行政处罚、刑责与公开披露。方案尚未与监管机构或地方政府讨论,计划分三阶段推进。
Schneier on Security、Tech Policy Press 等 31 个来源Schneier on Security 等 31 个来源 · 45篇报道 · 关注度6767