大公网

大公报电子版
首页 > 新闻 > 国际 > 正文

生成式AI造假 扰乱美国大选

2024-09-22 05:02:06大公报
字号
放大
标准
分享

  左图:美国民主党总统候选人、副总统哈里斯。\法新社;右图:美国共和党总统候选人、前总统特朗普。\法新社

  美国总统大选预定于11月5日举行,民主党总统候选人、副总统哈里斯和共和党总统候选人、前总统特朗普目前选情胶着,很多因素都有可能影响最终结果。今年也是生成式人工智能(AI)流行以来,第一次举行美国大选。目前社交媒体上充斥着大量AI生成的深度伪造内容,包括美国演员、歌手和运动员等名人的为某位候选人“背书”的虚假海报,特朗普保护小动物的假图等不实信息,恐进一步扰乱选举。

  【大公报讯】在大选期间,美国各界名人对两党候选人的支持成为一大看点,但AI伪造的“名人支持”海报等则正在混淆视听。特朗普本人8月也在社媒转Taylor Swift支持他选总统的AI生成照,显然试图利用这位流行天后的巨星影响力吸引选民。而Taylor Swift在公开宣布支持哈里斯时,也提到AI假图,并指出其中的风险。

  非营利组织“新闻素养项目”(NLP)的一项计划统计,截至目前,至少有70篇在社交媒体上散布虚假名人支持或反对候选人的文章。NLP研究高级副总裁亚当斯表示,“在这个两极化的选举年,虚假的名人支持可以吸引选民注意力,影响他们的观点,强化个人偏见,并散播困惑和混乱。”NLP称,类似的文章每天都在增加,其中一些甚至获得了数百万的阅读量。

  看似“幽默”实则仇外

  除了假“名人支持”图片,生成式AI也被用于传播候选人政治偏见和传谣的工具,进而误导选民。美国保守派力量近期一直在散播俄亥俄州的海地移民“吃猫狗”的谣言,以进一步煽动民众的反移民情绪。在9月10日与哈里斯的辩论中,特朗普公开表示俄亥俄州的海地移民“吃猫狗”,这一未经证实的言论很快在网络上疯传。

  在社媒平台X上,一段由AI生成的图像组成的视频显示,一只狗举着一条横幅,上面写着“海地人吃了我妈妈”,并在之后的画面中写着“投票给特朗普”和“特朗普2024”等标语。另一个标题为“现在俄亥俄州的猫”的视频显示,小猫沿着高空钢丝进行了多次冒险的逃跑。该视频的配文写道:“他们在吃猫!他们在吃宠物!”还有AI图像将特朗普改造成身穿盔甲、手拿剑刃保护宠物猫的“勇士”,告诉选民“如果不想宠物被吃掉,就投票给特朗普”。

  共和党阵营宣称,这些照片只是“轻松的笑话”,展示了特朗普本人的个性。共和党策略师史密斯表示,这些滑稽图片“目的是娱乐,而不是欺骗”。然而网络通讯专家特里波迪认为,这种AI制作的图像是新的、病毒式传播的工具,可以传播反移民叙事。他还补充道,“放大这种(反移民)说法的贴文一点也不幽默,当官员利用这些图像作为延续种族主义和仇外心理的一种方式时,这将是一个巨大的问题。”

  X成为虚假资讯重灾区

  研究人员指出,在社媒平台X放宽内容审核政策,并且恢复散布虚假内容的账号后,X已经成散布政治虚假资讯的重灾区。X的老板马斯克已公开表态支持特朗普,他在X上有超过1.98亿粉丝,并已多次散布与选举有关的虚假内容。马斯克曾转发一段AI生成的视频,该视频模仿哈里斯的声音,讽刺哈里斯靠“政治正确”上位。视频被转发后迅速获得破1亿次观看,但马斯克并未注明这是深伪视频。

  X平台的AI聊天机器人Grok还允许用户利用文本提示产生AI生成的影像,并向用户传播虚假的政治资讯。亚当斯指出,随着社媒平台不愿删除与选举有关的错误信息,这些平台已经成为投机主义者和宣传者接触大众的主要渠道。 (综合报道)

点击排行