日本假冒警察诈骗视频通话疑用生成AI换脸

日本大阪府警8月公开了一段假冒警察诈骗中实际使用的视频通话片段，画面中自称警察的男子可能是用生成AI换脸伪装的另一人。关西一名30多岁女性6月接到自称爱知县警生活安全课佐藤的电话，对方称其名下现金卡牵涉诈骗案，随后转入视频通话，由自称爱知县警察本部刑事部搜查二课警部井上泰成的男子出示类似警察手册的证件并施压询问，通话持续一小时以上，女性因对方反复索要个人信息而挂断。FNN在趋势科技监修下对影像进行验证，演示中可将一名男性的脸实时替换为关西电视台主播吉原功兼的脸，眨眼与口型均被同步追踪。趋势科技的佐藤健表示，摄像头画面很容易被替换，不应仅凭视频影像轻信对方。警方称此类诈骗受害者已不限于老年人，对视频通话接受度较高的年轻群体也在增加。