大公网

大公报电子版
首页 > 新闻 > 国际 > 正文

AI以假乱真 特朗普“被捕照”社媒疯传

2023-03-23 04:25:57大公报
字号
放大
标准
分享

图:AI合成的特朗普“被捕”照在社媒大肆传播。\网络图片

  综合美联社、路透社、《新闻周刊》报道:美国前总统特朗普预告自己21日会被逮捕,虽然没有如期发生,但网友利用AI制图软件,合成出各种“特朗普被捕”的滑稽照片。这些照片有的带有明显的“造假”痕迹,比如警察面部扭曲、特朗普长出三条腿等,但有的几乎达到可以乱真的程度。专家指出,随着AI技术的发展,未来的网络世界可能充斥假新闻,普通人将越来越难以辨别。

  “突发:特朗普今早在曼哈顿被捕!”一条这样的推文,再配上几张警察制服特朗普的照片,近日在社交媒体平台病毒式传播。但这并非特朗普预言成真的“被捕瞬间”,而是网友利用AI制图工具合成的照片。这些照片描绘了纽约警察按住反抗的特朗普;特朗普持枪逃窜;特朗普的牢狱生活等等。仔细观察这些照片,可以发现警察制服上的文字乱七八糟,有的人物面部扭曲、手指抽搐,还有一张照片中,特朗普长出了3条腿。

  部分网友信以为真

  新闻机构Bellingcat创始人希金斯21日在社媒平台Twitter上分享了“特朗普被捕”照片,他表示,这些照片是由Midjourney生成。Midjourney是一个能够快速生成AI制图的平台,用户输入关键词后,能在一分锺内通过AI算法生成相对应的图片。希金斯所使用的关键词包括“特朗普被捕时摔倒”、“黄金比例”及“新闻镜头”等。虽然希金斯在原始帖文中注明照片是AI合成,但大量网友在二次传播这些照片时,并没有注明AI制图。

  21日正是特朗普预告自己会因“封口费”案件被捕的日子。纽约警察局当天不得不公开发布声明:“特朗普没有被纽约市警察局拘留。”希金斯表示:“我原以为人们会意识到特朗普不应该有3条腿,但有些人还是将这些照片当成真的。”

  人工智能和合成媒体领域专家阿杰德表示,虽然对于那些了解AI领域的人来说,“特朗普被捕”照片可以说是一眼就能看出是假的,但并非每个人都知晓AI的发展速度,而当用户浏览社媒平台时,可能不会仔细查阅帖文内容,而是会快速划过预览界面,因此受到蒙骗。布鲁金斯学会AI和新兴技术计划主任梅瑟罗指出,“特朗普被捕”的照片或许无法让人相信,但仍可以挑动公众的情绪,如果特朗普的支持者或反对者受到画面的刺激,可能做出冲动之举。

  欧洲刑警组织去年发布报告,专家估计,到2026年,多达90%的网络信息可能是由AI合成。

  微软发布新款AI制图工具

  微软公司22日宣布,在搜索引擎Bing和浏览器Edge中增加AI制图功能,用户只需输入文字描述,就能生成相应图片。这一新功能名为Image Creator,由OpenAI旗下的的AI绘图工具DALL.E提供支持。微软副总裁迈赫迪表示:“我们会注明相关图片是由AI生成,并在每张图像的左下角加上Bing图标,以帮助证明该图片是使用Image Creator创建的。”专家警告说,微软太快将AI文本转图片功能引入搜索引擎,可能会导致虚假信息大肆传播。

  微软创办人比尔盖茨21日发文称,AI是数十年来最重要的技术进步,他同时呼吁政府和业界合作,限制AI带来的风险。

  欧盟AI法案难产

  欧盟2021年提出《人工智能法案》,旨在保护公民免受这种新兴技术的危害。外界此前预计,这份草案会在今年3月底在欧洲议会进行投票,但据知情人士透露,在2月的欧洲议会全体大会上,由于议员们的分歧过大,未能达成任何协议。

  权利组织Access Now高级政策分析师勒弗表示,新技术发展速度过快,导致监管工作充满挑战。今年2月,OpenAI发布的AI聊天机器人ChatGPT爆红后,包括微软、谷歌(Google)在内的几乎所有科企巨头都参与到AI领域,以ChatGPT为代表的生成式AI技术的发展速度超出欧洲议员们的预料。

  常见的AI绘画软件

  Midjourney

  首个快速生成AI制图并开放予大众使用的平台,输入关键字后能在一分锺内通过AI算法生成相对应的图片,可以选择不同画家的艺术风格,还能识别特定镜头或摄影术语。

  Disco Diffusion

  生成画作的流程与Midjourney相似,不过图像生成需要近半小时的时间,图像会从模糊逐渐变得清晰、有细节。这款软件本身是免费的,但如果想加速出图速度,就要购买会员。

  DALL.E 2

  更擅长写实风格,操作简单、完成度高、速度快。DALL.E 2的开发商OpenAI对版权有严格的限制,比如生成的图片版权最终归属OpenAI;仅供个人学习探索使用,不能商用等。

  谷歌AI怕出错 拒正面回答问题

  据路透社报道:谷歌公司(Google)21日发布AI聊天机器人Bard,率先允许英国和美国用户申请试用。谷歌公司表示,Bard的全面推出速度预计会很慢,希望先征求用户反馈。

  打开Bard程序,它会率先做出提醒:“我是Bard,您的创意合作者。我有局限性,并不总是对的,但你的反馈会帮助我改进。”而当用户关掉这一提示后,Bard网站下方仍会有一行免责声明:“Bard可能会显示不准确或冒犯性信息,这些信息不代表谷歌的观点。”

  OpenAI公司此前率先推出AI聊天机器人ChatGPT。Bard能够瞬间生成文本块,这与ChatGPT逐字输入答案的方式不同;Bard还包括一个功能,即一次回答3个版本的内容供用户选择。此外,Bard还明显比ChatGPT谨慎。

  AI研究员埃齐奥尼询问ChatGPT:“Oren Etzioni和Eli Etzioni之间有什么关系?”ChatGPT正确地回答:“Oren和Eli是父子。”当埃齐奥尼问Bard同样的问题时,Bard拒绝正面回答:“我对这个人的了解有限。我还能做些什么来帮助您完成这个请求吗?”谷歌产品研究副总裁柯林斯表示,Bard经常拒绝回答有关特定人的问题,因为它可能会生成不准确或编造的信息。

相关内容

点击排行