川普被捕图？ AI 生成图像恐助长假新闻泛滥
「一队纽约警察当街捉拿美国前总统川普、俄罗斯总统蒲亭身陷囹圄」等高度细腻却耸人听闻图像近日淹没社群平台。专家警告，这种AI生成图像恐让社会「在关键时刻虚实难辨」。
美联社报导，川普恐面临刑事指控，以及国际刑事法院（ICC）对蒲亭（Vladimir Putin）发出逮捕令的新闻受到关注之际，上述图像这几天已经淹没推特和其他平台，不过两组照片都不是真的。
这些图像以及社群媒体上随处可见的诸多类似图像，都是日益精巧普及的人工智慧（AI）图像生成器的杰作。
假新闻专家警告，这是「社群媒体随重大新闻事件起舞，刮起假图、假影片歪风，导致社会在关键时刻虚实难辨」这个新现实的前兆。
西雅图华盛顿大学（University of Washington）专研假新闻散播的教授威斯特（Jevin West）说：「这确实会在危机事件发生时增添杂音，让人开始对体制和接获的讯息失去信赖。」
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
尽管修图、制造假图不是新鲜事，Midjourney、DALL-E和其他AI图像生成器工具更容易使用，只要提供简单文字提示，就可以迅速、大规模生成这样的逼真图像。
最近一些图像出自Midjourney本月推出的新版文生图（text-to-image）合成模式，可以产生酷似通讯社新闻照片的图像，说服力十足。
推特上有个被人广传的推文串，是总部设在荷兰的事实查核团体「冒险者」（Bellingcat）创办人希金斯（Eliot Higgins）运用最新生成图样工具变出的许多富戏剧张力川普被捕假图。内容是一队制服员警抓捕这位共和党籍亿万富豪美国前总统，毫不客气地在人行道上拉扯，已经被转推或按赞好几万次。
另一组蒲亭被捕、出庭、坐牢的图像也是希金斯杰作，他说自己上传这些图没有恶意，也言明在先那些图片都是AI生成的。尽管如此，他表示，这些图还是可能让他被禁用Midjourney服务。Midjourney没有回应置评请求。
希金斯在电邮中回复美联社说：「川普被捕图真的就是不特意地证明了透过Midjourney展现真实场景，这么做有好有坏。我在Midjourney输入提示的时候先写了一些场景描述，然后把它们串联，完成了这个故事。」
I’m not sure who started the AI image trend of Donald Trump getting arrested, but I felt duty-bound to generate my own contributions. So here’s a thread of entertainment I made for you. 🧵#TrumpArrest pic.twitter.com/qTB5J34nbb
— Saffho 🏳️⚧️🏳️🌈🌹 (@SaffhoArtSht) March 21, 2023
他表示，细看就会发现这些图根本不上完美，因为川普看起来很怪异，腰际还配戴警用皮带，有的图可以清楚看到他的脸和手已经变形。
不过非政府组织「见证」（Witness）媒体技术专家安伦（Shirin Anlen）表示，尽管希金斯或其他使用者表明贴图由AI生成，而且只为博君一笑，但这样还不够。
她说，这些图通常很快就就会被转推，但是转推内容不会注明那些关键文字。事实上，有人在Instagram分享了希金斯的一些贴图，仿佛川普真的被捕，还得到超过7万9000个赞。
安伦说：「人们相信有图有真相，看到就以为眼见为凭了。」
本新闻授权来自中央通讯社 cna.com.tw
Connect
Connect with us on the following social media platforms.