图：AI深伪技术Q&A、各国AI性犯罪事件簿

　　随着人工智能技术的发展，Deepfake（深伪）变得愈发“简单”，大量一键换脸、一键脱衣的违法软件在网络氾滥，导致针对儿童的“性勒索”诈骗案件正在激增。针对这一问题，包括韩国、西班牙、澳洲等多国开始研究监管措施，严厉打击。澳洲政府此前表示，将强制科企采取措施来防范线上工具被利用于制造深伪裸照，或在受害人未察觉的情况下进行跟踪偷窥。

　　【大公报讯】随着人工智能（AI）技术的发展和普及，许多通过简单操作就可以生成难以辨别的“Deepfake（深伪）”照片的应用程序在网络氾滥，不少人利用这些工具制作虚假的色情照片，用以散布虚假信息、诈骗和剥削，对个人隐私和公众信任构成严重风险。

　　美国网络安全公司Security Hero发表的《2023年Deepfake报告》发现，2019至2023年五年间，网络上深伪影片的数量增加了550%，总数超过9.5万条，当中98%含色情内容，99%目标对象都是女性。

　　专家指出，这一问题在全球青少年间变得愈来愈严重。今年6月，澳洲电子安全专员格兰特表示，过去18个月里，澳洲网络安全监管机构eSafety收到的关于18岁以下人群使用“脱衣”软件生成深伪私密照片的举报数量增加了1倍多，“这些应用程序被用来在校园内羞辱、霸凌和性勒索儿童。”她表示，调查人员发现在墨尔本的一所高中就有超过50名女学生成为深伪照片的受害者。

　　深伪裸照成校园欺凌新手段

　　据报道，美国、西班牙、韩国、日本等多国学校都发生“深伪”裸照氾滥的事件，不少学生利用AI作为新的欺凌手段，制作女同学的假裸照，并通过聊天群组在校内散布，造成不良影响。

　　据学校和警方报告，美国多个州的男学生利用“裸体”或“脱衣”等AI软件，将女同学参加学校舞会等活动的真实照片，修改合成以假乱真的裸照，并通过Snapchat群组或Instagram等软件散播，甚至在学校餐厅和校车上散布。

　　在日本，科技促成的性暴力和性骚扰呈上升趋势，一些青少年的AI假裸照在同学中流传，日本全国各地警方收到的此类案件报告越来越多。据日本国家警察总署称，警方去年接到了100多起关于未成年人虚假性爱图片的举报，受害者大部分是初高中生，但也有小学生。

　　韩国此前发现利用许多Deepfake技术制造的色情视频与照片在Telegram疯传，涉多个聊天群组，每个群组成员介乎数百至逾十万不等。韩国多间机构展开调查，有结果显示，受害人中未成年人占比超过30%，逾40间学校受影响，有涉事学校呼吁学生清空社交平台上的照片。

　　儿童性剥削专家指出，未经同意使用AI生成图像来骚扰、羞辱和欺凌女性，会对她们的心理健康、声誉、人身安全和职业生涯造成损害。

　　澳洲拟强制科技公司防堵

　　针对这一问题，多国提出了解决方案。西班牙政府今年3月表示将提出一项法律，将未经授权使用的照片以AI制成深伪性影像视为犯罪行为，不过该法案至今还未获得国会通过。美国弗吉尼亚州、加州、明尼苏达州和纽约州等已通过法令，禁止传播伪造色情作品，并允许受害者控告制作者。

　　澳洲政府今年8月表示，将和业界合作制定新法规，以打击一些利用AI驱动的“裸化”技术及网络偷窥伎俩。澳洲通讯部长威尔斯表示：“任何专以侵害、羞辱和伤害他人，特别是针对儿童的应用程序及科技，都不应存在。”威尔斯说，政府将动用“所有手段”来限制跟踪偷窥应用程序的取得，并要求科技公司负起阻挡这些工具的责任。

　　另外，澳洲独立议员凯特．钱尼今年7月对澳洲刑法提出修正案，提议将下载用于生成深度伪造色情内容的工具定为非法，并将下载用于训练“脱衣”应用程序的图像定为非法，该法案目前已提交议会。钱尼表示，滥用者正在利用立法中的明显漏洞，而修正案是“政府可以迅速采取行动的事情”。 （综合报道）