图:黄国遭不法之徒利用AI模仿其声音进行电话诈骗,他已报警处理。
“我急需要现金周转,可不可以转些钱给我,好快还给你。”若收到“朋友”这样的来电,务必加倍小心。本港再揭发AI声纹诈骗案,事主为身兼全国政协提案委员会副主任、工联会理事长、立法会议员的黄国,骗徒利用AI模仿其声音和语气,通过语音通话冒充黄国向其朋友借钱,朋友不虞有诈,损失数十万元。
专家提醒市民,现今的人工智能(AI)及深度伪造(Deepfake)等技术,骗徒已可做到换脸变声,即时与诈骗目标对话,令人防不胜防;专家呼吁应尽量避免在社交平台过度分享个人视频和音频,尤其是脸部清晰的素材,以免被人套取来制作虚假内容。\大公报记者 叶浩源、古倬勳
黄国昨日(17日)下午在社交平台facebook发帖文表示,不法之徒利用AI模仿其声音进行电话诈骗,已报警处理,并作出声明,他本人并没有向人借钱。黄国接受《大公报》访问时表示,前日(16日)收到一名朋友来电,向他提及“还钱”,感到莫名其妙,问清楚后始知有骗徒冒充他的声音致电给他的朋友,声称急需要借钱周转。他引述该朋友形容,“AI黄国”的声音和语气都“似到十足”,而且骗徒在通话中借口周转,可能数日内便会还钱,令其朋友降低了警觉性,信以为真,先后三次合共汇款数十万元到骗徒指定的户口。
冀政府提升应对骗案策略
黄国表示,对朋友因此损失金钱深感不安,形容受害人是一名热心服务社会人士,为人“疏爽”。他续说,暂时未有收到有其他朋友“中招”的消息。对于近期出现多宗骗徒利用AI及深伪等技术冒充名人、官员及政治人物等知名人士,影响公众人物的形象,他促请特区政府严厉打击,“魔高一尺就要道高一丈”,提升应对相关骗案的策略及技术,希望警方能早日把骗徒绳之以法,亦呼吁市民时刻提高防范意识,提防骗子。
香港专业进修学院协理副校长林森指出,骗徒主要透过在网上或者不同线下场合录音取得事主声源,在消除杂音后以该声线录制不同的台词,以AI声纹技术模仿其语气,透过通话诈骗事主的亲友。由于一般人鲜有即时侦测对方声纹、辨析声线真假的技术,未必能即时察觉到骗徒在假扮亲友的声线进行诈骗。
勿过度分享个人视频音频
林森表示,要判断出骗徒在假扮他人声线也并非难事,市民只要听到对方提出借钱、大额转账等要求时,问一些只有双方之间才知道的问题,对方若无法回答便能识破骗局,同时应亲自联络亲友求证核实。
至于深伪技术,智慧城市联盟资讯科技管理委员会主席庞博文表示,骗徒会在暗网购买假冒名人脸孔的深伪技术的模型,一年费用为3000至4000虚拟货币泰达币(USDT)(折合约2.3万至3.1万港元)不等,制作出高度逼真的虚假视频或者音频,继而在社交平台开设假冒名人代言某产品的专页、直播或视像会议,或者进行色情勒索,甚至诽谤。
由于深伪技术发展迅速,已经能够模拟光影、表情甚至声音细节,内容真假难辨,暂时未有检测工具让一般市民可以在短时间内分辨真假。
市民要提高警惕,包括交叉比对多项资料来源作核实;亦应尽量避免在社交平台过度分享个人视频和音频,尤其是脸部清晰的素材,以免被人套取来制作虚假内容。