左图：生成式AI发展迅速，美国大选将成假信息重灾区，图为拜登本月在X上发布搞笑图片以拉拢年轻选民。\法新社；右图：特朗普17日突然现身兜售限量款球鞋。\美联社

　　综合《华尔街日报》、《纽约时报》、美联社报道：随着生成式人工智能（AI）的爆炸式发展，人们如今已无需破费就拥有高超的技能，即可轻易传播虚假信息。在被称为全球超级选举年的2024年，生成式AI将全面渗透及影响社会，为选民辨别信息带来全新挑战，也将冲击各地选举。

　　【大公报讯】全球70多个国家和地区将在2024年举行重要选举，涉及约40亿人，占世界总人口的一半。许多人担忧，例如ChatGPT等生成式AI，可能会被用来制造假新闻、生成虚假图像和视频，以在选举期间操纵选民。

　　AI可助宣传也可造假

　　在本月举行的印尼大选期间，AI已经在宣传中起到了举足轻重的作用。印尼国防部长普拉博沃最终赢得总统宝座，就离不开其竞选团队利用AI技术的宣传，包括用AI制作候选人的卡通形象，拉近与年轻选民的距离等。除此之外，支持普拉博沃的“专业集团党”成员还利用“深伪”技术，制作视频拉票，引起争议。在该视频中，于2008年去世的印尼前总统苏哈托“起死回生”对观众喊话，鼓励其为普拉博沃投票。另外，印尼各党派还在宣传影片中使用AI生成的孩童形象，以避开“政治广告不能聘用小孩”的规则。

　　除了用作政治宣传外，AI还可能被用来发布关于投票的误导或错误信息。例如通过仿建地区政府官方网站、短讯、社交媒体等形式，向选民定向发布与投票流程相关的虚假公告，例如给出错误的投票时间或地点干扰选举。

　　美国大选一直是各种假新闻和阴谋论的重灾区，在AI迅猛发展的2024年举行大选，也让各界提高警惕。上月，在美国新罕布什尔州民主党初选的前几日，当地约出现了上万通AI诈骗电话，一个与美国总统拜登极为相似的声音，呼吁选民不要投票。不久后，新罕布什尔州总检察长办公室调查显示，这通诈骗电话的声音源于得州一个叫“生命企业”的公司，已引用“反对压制选民”的法律对该公司发出禁令，但未收到回复。

　　特朗普失利或不承认结果

　　华盛顿大学AI专家、荣誉退休教授埃齐奥尼预计，选举年期间恐将出现一场“假信息海啸”。埃齐奥尼表示，未来可能有更多更恶劣的虚假内容，在未被标注为“AI生成”的情况下，于网络上大肆流传，在选举期间愚弄大众。“你可能看到各种各样的假新闻，拜登被‘送往医院’、候选人开始‘说’一些他没说过的话、某地发生爆炸等等。”

　　美国国会两党人士及联邦选举委员会正就相关技术的监管举措进行商议，但尚未敲定任何规则或立法。美国前总统特朗普本人、竞选团队和支持群体热衷于撒布假信息。无党派组织保障民主联盟的高级研究员谢弗担心，如果特朗普本次大选失利，美国或将重演不承认大选结果的暴力事件。

　　科企签署协议抵御AI干预

　　16日，包括OpenAI、微软、Adobe在内的20家科技公司共同签署自愿协议，承诺将采取措施，防止欺骗性的AI内容干预今年全球的选举。各公司将一同合作，开发用于检测AI生成的误导性图像、视频和音频的工具，并对其自家AI服务中的此类内容采取措施。这些科企表示，识别AI产生的内容或证明其来源的技术手段，可能包括加入浮水印或嵌入元数据。该协议没有具体说明履行承诺的时间表，或每家公司将如何实现这些承诺。

　　Meta Platforms全球事务总裁克雷格认为，该协议在未来能够产生的作用大小取决于这些签署公司的“广度”。他表示，如果各个平台都能自己制定新的检测、来源、标签、水印等政策，那将会皆大欢喜，但除非有进一步的承诺，以共享的互通方式做到这一点，否则一切各种各样的承诺都是“画大饼”。