图:目前市面上充斥了大量AI换脸的应用程式。
虽然近期曝光的AI换脸罪案中,骗徒瞄准的都是上万甚至上百万的大额钱财,但也有骗徒进行“恶作剧”式的小骗局。北京女孩郭蕊蕾前段时间就险些中招。
“当时,一个网购群中突然有人向我发起视频通话。接通后,竟然是拉自己进群的邻居。”小郭对大公报说,“当时我没有多想,但对方让我充购物卡的时候,我就留了一个心眼,心想对方为什么不直接私信我,而是在群里打电话,这就很奇怪。”
后来,见小郭很犹豫,对方也直接承认了是一齣“恶作剧”。原来对方在跟小郭邻居视频时,截取了对方的头像和语音资料,又用“AI换脸”软件尝试向社区购物群中的熟人推荐购物卡。“虽然当时没有中招,但我觉得还是非常危险。”小郭说,如果是年长的人,或者疏忽大意的状态,很容易被“熟脸”引上鈎。
针对此次引发公众高度关注的AI换脸诈骗案,中国互联网协会表示,在AI时代,文字、声音、图像和视频都有可能是深度合成的,在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款,无论对方是谁。