美国前总统特朗普上周六在他自己创办的Truth Social社交平台上写道，他将于本周二在曼哈顿被捕，并敦促他的支持者对此进行“抗议”。

(资料图片)

3月21日，特朗普口中的“周二”已经到来。他的预言并没有实现，但大量的人工智能生成的图像开始发酵，替他实现了这个预言。

网络上开始疯狂流传他在曼哈顿“被捕”的图片，许多人误以为真。

01 特朗普“被捕”‍‍‍‍‍‍

路透社报道称，第一个发布这些图片的网友名叫埃略奥特·希金斯 (Eliot Higgins) ，他将图片传到了推特上。

他的帖子中也写道，“在等待特朗普被捕的时候制作了特朗普被捕的图片”。这位网友还发布了一系列照片，里面有小特朗普、梅拉尼亚等人，也有特朗普“受审”和“铁窗泪”等场景。

其中最受欢迎的图片都是搞笑且有戏剧性的。例如显示特朗普被执法人员抓住，在挣扎中喘着粗气，以及特朗普从逮捕他的人手里逃跑的那张。

显然，这些照片都是假的，全都是人工智能生成 (AI-generated) ，而非真实事件，目前已被“辟谣”。并且特朗普看起来不是那种会拼命挣扎的人（这位前总统有个著名的观点，那就是人体含有的能量是有限的，就像电池一样，因此他认为锻炼会消耗这些能量）。

推特的长期在线用户和人工智能爱好者，可能第一眼就能认出这些假图片。但也有很多人并没有，甚至会提出疑问：“为什么特朗普被捕没有成为新闻”？‍

面对网友的疑惑，希金斯说明了自己在AI生成过程中发布的指令：“特朗普在被捕过程中摔倒。新闻报道画面。” 随后AI给出了下面的图片。

02 危险信号来临

事实上，这些图像都是由Midjourney生成的。该公司最近发布了一个产品更新，极大的提高了其生成令人信服的假图的能力。

谈到AI生成的图像，现在已经出现了一些明显的危险信号。

人工智能曾经很难描绘人手（任何艺术家都会告诉你，精细的手部线条是很难画出来的）。缺失的、扭曲的四肢，以及多余的手指和牙齿，曾经使人工智能生成的图像充满了一种阴森诡异的气质，就好像恐怖电影里的变形恶魔在试图模仿人类的形态。

但那已经是过去式了——Midjourney现在可以创作出令人信服的手部图像（起码是足够接近令人信服的程度）。

如果你仔细观察“特朗普被捕”的图片，会发现里面仍有畸形的手和四肢，背景人群的脸也像融化的蜡烛。写实风格的人工智能生成图像有一种不自然的的光泽和质感，就像一张被太多美化滤镜扭曲的自拍。

然而，这些线索没有那么简单被觉察。容易受到错误信息影响的互联网用户即将面临“假新闻”的海啸——我们都是。

人工智能生成图像中存在的奇怪问题，可以很容易就被几分钟的Photoshop，或者一点动态模糊、像素化所掩盖。深度造假的潜在危险已被讨论了多年，而其相关技术也在不断改进。

03 生成式AI加速舆论爆发

一般来说，生成式AI通常不会产生伟大的、有洞察力的艺术（尽管Infinite Nothing Twitch流非常有趣），但它确实提供了一个快速创造梗图和错误信息的机会，而这两者之间的界限一直很模糊。

人工智能的军备竞赛正进行得如火如荼，生成式人工智能已经能够生成令人信服的语音、图像和文本。

目前，已经有人使用声音生成器来制作了很多美国总统参加说唱比赛和《我的世界》(Minecraft) 游戏锦标赛的奇怪视频（拜登总统已被证明是这种新兴的梗图非常受欢迎的主题，他经常被描绘成一个满嘴脏话、沉迷成瘾性药物的游戏玩家）。

特朗普的忠实支持者表示，他们愿意相信特朗普告诉他们的任何事情，但还有很多选民仍在努力追赶社交媒体时间轴上喷涌而出的错误信息；当人工智能生成的大量照片和视频扭曲了我们对现实的共同认知时，届时会发生什么?

最近，百度旗下文心一言的AI绘图功能也制造出不少热梗，成为网友们的快乐源泉。尤其是对中国菜，文心一言有着属于自己的独特理解。‍

互联网时代下，迷信、阴谋论式的恐慌和错误信息在社交媒体上盛行。但这并不意味着事情不会变得更糟；事实上，它们可以，而且很可能会。

社交媒体用户已经被算法引导进了符合他们信仰的信息茧房。像QAnon这样的致幻信仰系统就是从当前的互联网生态系统中产生的，我们现在可以想象一下恶意行为者可以用生成式人工智能做些什么。

如果面对大量难以验证的显示犯罪迹象的图像，许多人可能会选择相信符合他们偏见的信息，而将真实的证据视为虚假。

虽然这种情况已经发生了，但人工智能正在给制造这种舆论场的人提供一些锋利的工具，并扩大了潜在受害者的范围。

本文作者为福布斯资深撰稿人，文章内容仅代表作者本人观点。

https://www.forbes.com/sites/danidiplacido/2023/03/22/ai-generated-images-of-donald-trump-getting-arrested-foreshadow-a-flood-of-memes-fake-news/

关键词：