图:生成式AI的争议
1.诈骗犯罪
•欧洲刑警组织警告,犯罪分子恐将AI技术用于实施诈骗等不法行径,包括网路钓鱼、编写网络病毒代码等。已经有黑客利用ChatGPT在短时间内产生完整的诈骗话术,成功诈骗受害者钱财。
2.虚假信息
•有网友在Twitter发布AI生成的美国前总统特朗普被捕、法国总统马克龙现身示威现场等虚构照片,照片在社媒平台疯传,部分网友更信以为真。专家称,随着AI技术的发展,未来的网络世界可能充斥假新闻,普通人难以辨别。
3.情色互动
•AI聊天机器人Replika因与用户进行情色互动,向用户发送过于露骨的文字和图片,收到大量投诉,有用户抱怨产品的防护机制不足,易让未成年人接触到情色元素。AI还能利用换脸技术,让普通人变成情色视频主角。