川普被捕、普丁繫獄？ AI生成圖像恐助長假新聞氾濫

▲美國前總統川普因為「封口費案」官司纏身，近期在網路上出現許多被捕的AI生成圖像。（圖／達志影像／美聯社）

文／中央社

「一隊紐約警察當街捉拿美國前總統川普、俄羅斯總統普丁身陷囹圄」等高度細膩卻聳人聽聞圖像近日淹沒社群平台。專家警告，這種AI生成圖像恐讓社會「在關鍵時刻虛實難辨」。

美聯社報導，川普恐面臨刑事指控，以及國際刑事法院（ICC）對普丁（Vladimir Putin）發出逮捕令的新聞受到關注之際，上述圖像這幾天已經淹沒推特和其他平台，不過兩組照片都不是真的。

這些圖像以及社群媒體上隨處可見的諸多類似圖像，都是日益精巧普及的人工智慧（AI）圖像生成器的傑作。

假新聞專家警告，這是「社群媒體隨重大新聞事件起舞，颳起假圖、假影片歪風，導致社會在關鍵時刻虛實難辨」這個新現實的前兆。

西雅圖華盛頓大學（University of Washington）專研假新聞散播的教授威斯特（Jevin West）說：「這確實會在危機事件發生時增添雜音，讓人開始對體制和接獲的訊息失去信賴。」

儘管修圖、製造假圖不是新鮮事，Midjourney、DALL-E和其他AI圖像生成器工具更容易使用，只要提供簡單文字提示，就可以迅速、大規模生成這樣的逼真圖像。

最近一些圖像出自Midjourney本月推出的新版文生圖（text-to-image）合成模式，可以產生酷似通訊社新聞照片的圖像，說服力十足。

推特上有個被人廣傳的推文串，是總部設在荷蘭的事實查核團體「冒險者」（Bellingcat）創辦人希金斯（Eliot Higgins）運用最新生成圖樣工具變出的許多富戲劇張力川普被捕假圖。內容是一隊制服員警抓捕這位共和黨籍億萬富豪美國前總統，毫不客氣地在人行道上拉扯，已經被轉推或按讚好幾萬次。

另一組普丁被捕、出庭、坐牢的圖像也是希金斯傑作，他說自己上傳這些圖沒有惡意，也言明在先那些圖片都是AI生成的。儘管如此，他表示，這些圖還是可能讓他被禁用Midjourney服務。Midjourney沒有回應置評請求。

希金斯在電郵中回覆美聯社說：「川普被捕圖真的就是不特意地證明了透過Midjourney展現真實場景，這麼做有好有壞。我在Midjourney輸入提示的時候先寫了一些場景描述，然後把它們串聯，完成了這個故事。」

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

他表示，細看就會發現這些圖根本不上完美，因為川普看起來很怪異，腰際還配戴警用皮帶，有的圖可以清楚看到他的臉和手已經變形。

不過非政府組織「見證」（Witness）媒體技術專家安倫（Shirin Anlen）表示，儘管希金斯或其他使用者表明貼圖由AI生成，而且只為博君一笑，但這樣還不夠。

她說，這些圖通常很快就就會被轉推，但是轉推內容不會註明那些關鍵文字。事實上，有人在Instagram分享了希金斯的一些貼圖，彷彿川普真的被捕，還得到超過7萬9000個讚。

安倫說：「人們相信有圖有真相，看到就以為眼見為憑了。」