以假乱真,颠覆人生。未知号码的来电,聊天软件中抖动的陌生头像,突然收到的交友私信……在数字化、信息化时代,人们无法预料一次线上“偶遇”会否就此堕进互联网诈骗的深渊。生成式AI落入不法分子手中,网络诈骗手段如蝌蚪繁殖一样快速更新迭代:诈骗用的“金融投资APP”以假乱真;虚构出的“网络爱人”能语音通话、视频聊天。“大的诈骗组织会高薪聘请IT技术人员,且规模较大的公司会有好几个信息技术部员工,他们的技术水平很不错。”内地“反诈博主”依姐(化名),常年在各种诈骗盘口混迹。在依姐看来,未来的海外诈骗组织只会愈发精于高科技,诈骗场景也会越来越真实,“甚至会出现真人线下‘杀猪盘’。”\大公报记者 曾萍
利用AI合成的色情图片进行敲诈勒索;AI拟声技术制造“虚假亲情诈骗”;AI虚拟人在聊天中搜寻猎物,人工接力放饵诈骗……“有一定规模和实力的诈骗公司,往往一掷千金去挖掘高科技人才。”依姐语气肯定地表示,类似的“猎头事件”曾发生在自己的反诈团队之中,一名区块链设计师,一次收到诈骗公司“挖角”的邀请,对方还开出高薪。而为了摸清诈骗组织在科技方面的背景与实力,这位设计师化身“黑客”,与对方的信息技术员工隔空“斗法”、互相“攻击”——“没想到对手的实力真的很强!”
高薪挖角 聘“精英”骗专才
依姐表示,反诈宣传铺天盖地,人们的警惕性和防诈意识都有所提升,诈骗组织不断更新诱骗话术,产生升级诈骗科技的强大需求。相比在“一线”从事诈骗、知识水平参差不齐的“聊天者”,组织能力更强大的诈骗组织更倾向于走“精英路线”。一方面,部分精英所具备的语言技能、知识储备能在诱骗高端、专业人士时派上用场;另一方面,计算机、人工智能等领域的“技术精英”也能为诈骗组织打造天衣无缝的高科技天仙局。
有经济实力的诈骗组织靠走“人才路线”精进诈骗伎俩,中小规模的公司则会在“黑平台”上直接出钱购买现成技术。“在一些平台上,少则5万元(人民币,下同),多则20万元,就能直接购买到现成的‘新技术’。网络诈骗未来的技术走向,主要还是AI换脸和AI拟声。”依姐说。
今年4月,福州市某公司法人代表郭先生和“朋友”微信视频之后,把430万元转到了对方指定的银行卡上。事后,郭先生拨打好友电话才知道被骗。这种技术被称为AI“深度伪造”,简单来说,诈骗犯利用AI拟声、换脸技术,使自己与受骗者视频通话时,拥有与其伪装的“身份”相符合的外观和声音,令受骗者以为自己正和熟人对话。
“据我了解,诈骗组织的AI换脸实力,已经由原本只能‘装’(扮演)几十分钟,到现在‘装’十几个小时都不在话下。”依姐说,在AI“深度伪造”水平尚不达标时,自己也曾多次遇到“狗推”(海外诈骗业务员的代称)伪装失败,摄像头角度变换时对方刹那间从“AI假脸”切换至“庐山真面目”,身份败露。
张佳是内地社交媒体平台上小有名气的反诈博主,同时也曾是一名“杀猪盘”受害者。她说,大型诈骗组织每年在IT技术升级方面投入不少,为的就是要提升骗局的真实性,让受骗者相信自己眼见、耳听为“真”,从而放下戒心,言听计从。
真人加实景 “杀猪”零穿帮
而事实上,没有什么“拟真”能比真人更“真实”。“诈骗园区内有的诈骗组织,已经在用真人模特来扮演‘杀猪盘’。”张佳的此番说法,依姐也深表认同:“聘请真人模特进行诈骗去年就有出现了。”在依姐看来,为了无限度地趋向“真实”,未来甚至会有真人线下的“杀猪盘”出现。“现有的‘杀猪盘’骗局已经不局限于发送文字、图片和网络、视频聊天。有些骗子会有实景的别墅,可以自己在里面煮菜做饭,骗子还配有车子。就算受骗人和骗子在线下见面,也不一定看出破绽。”在科技和经济实力的双重加持下,诈骗犯为受骗者打造的“虚拟世界”,与荷里活电影《真人Show》(The Truman Show,楚门的世界)的摄影棚,似乎并无两样。