跳到正文
原文
Tech Policy Press·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →

Tech Policy Press作者称AI“合成怀疑”或致美警务行动风险

'Synthetic Suspicion' and the Perils of AI-Prompted Police Actions

AI 导读

Tech Policy Press 研究员 Jake Laperruque 撰文警告,美国执法机构正以 AI 生成的标记和评分作为拦停、搜查与逮捕的依据,政策制定者应在这种“合成怀疑”成为执法常态前加以应对。文中援引的案例包括边境巡逻按 AI 分析车牌读取数据得出的驾驶模式标记并拦停车辆,以及 ICE 使用 Palantir 开发的 ELITE 系统按置信度分数挑选突袭地点。作者指出,人脸识别误匹配过去一年已出现至少三起当事人被关押数月的案例;据众议员 Bennie Thompson 称,ICE 把 Mobile Fortify 应用的现场生物识别匹配当作“决定性”认定,警官可无视出生证明等美国公民身份证据。他认为自动化偏见和厂商激励会放大此类风险,建议独立审查系统、设定证据权重指引并限制使用场景,但在有效保障出现前应暂停,让“合成怀疑”在警务中没有任何角色。

阅读原文techpolicy.press