人工智能技术制作“特朗普被捕”照片引发担忧

【本站】4月3日消息，最近一张特朗普被逮捕的照片在社交媒体上引发热议。然而，这张照片并不是真的，而是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特・希金斯用AI技术制作的。据希金斯表示，他想要把有关特朗普可能被捕的消息可视化，于是用文本到图像模型生成了一些看起来很逼真的照片，并在推特上分享。这条推文在两天内被浏览了近500万次，并获得了超过7.9万个点赞。

数字内容分析公司Truepic的穆尼尔・易卜拉欣说，“合成内容正在快速发展，真实和虚假内容之间的差距变得越来越难分辨”。如今各种AI图像生成工具变得触手可及，它们可在用户发出简单指令后，迅速生成海量栩栩如生的图片。例如，Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像，如此一来，这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”，混淆视听。据本站了解，Midjourney近日以滥用为由暂停了免费试用，Midjourney CEO和创始人David Holz在宣布这一决定时表示免费用户流量过大，试用遭滥用。

虚假图片事件引发人们对人工智能技术滥用的担忧。人工智能专家指出，虽然制作和生成虚假图片的技术并不新鲜，但该领域技术的进步速度以及人们对技术的滥用值得关注。希金斯认为，随着合成图像越来越难辨真假，对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育，同时有必要通过立法来规范深度合成技术的使用。《财富》杂志指出，目前缺乏企业标准或政府法规来解决使用AI制造和传播谎言的问题。