▲ 日前出現一支運用AI深偽操作，模仿賀錦麗的影音檔。（圖／路透）
● 陳國祥／曾任《中國時報》總編輯、《中時晚報》社長
正在如火如荼進行的美國總統大選，近日出現一個轟動江湖的插曲，令人對選舉未來可能出現的不可控欺騙情事深以為憂。
人工智慧（AI）深度偽造技術幾可亂真。日前一支運用AI深偽操作，模仿將代表民主黨參選總統的賀錦麗影音檔出現，再經科技億萬富豪馬斯克分享在自家社媒平台X，而且沒有標註這支影片的初衷是在諷刺，造成以假亂真的錯亂。人們更加擔憂AI的力量會在關鍵時刻影響選情。
影片把賀錦麗沒講過的話塞到賀錦麗模樣的人物嘴裡，真假難辨，手法雖然算不上創新，但這次選舉兩方旗鼓相當，一個運用深偽技術的造假可能對一個候選人產生無可彌補的損害。
這支上周「被公布」的「競選廣告」，證明是使用相同的影像配上模仿賀錦麗的聲音，將旁白偷天換日。影片中的「賀錦麗」說，「我，賀錦麗，是各位的民主黨總統候選人，原因在拜登總統終於在辯論中曝露自己的老邁」。偽造影片中宣稱賀錦麗是「多元僱員」，既是女人又是有色人種，而且說她連「治國初步」都不知道。影片保留了「賀錦麗選總統」的字眼，還添加一些賀錦麗過去真講過的話。
▲ 科技億萬富豪馬斯克分享一支模仿賀錦麗的AI深偽影音檔在自家社媒平台X，而且沒有標註這支影片的初衷是在諷刺，造成以假亂真的錯亂。（圖／達志影像／美聯社）
►►►思想可以無限大－－喜歡這篇文章？ 歡迎加入「雲論粉絲團」看更多！
她的發言人立即譴責馬斯克推波助瀾的惡行：相信國人要的是賀錦麗提供的真正的自由、機會及安全，而不是馬斯克與川普經偽造、操弄的謊言。
這支影片廣獲分享，足以證明AI生成的圖片、影片或錄音檔已被使用在操弄、誤導選舉，由於栩栩如生，真偽難以辨識，所以令人更加擔心選舉中被惡用。
高品質的AI工具比以往更容易取得，技術不斷進化，造成的欺騙與誤導效果更難防範與控制。最早貼出這支影片的是自稱「雷根先生」（Mr. Reagan）的YouTube內容創作者，他在YouTube及X平台都表示，這支經過改造的影片旨在諷刺。馬斯克強烈支持川普，他聰明絕頂，轉載這支貼文不太可能是自己先被誤導，更大的可能是蓄意誤導選民。據X平台表示，瀏覽量已超過1億2,300萬次，只下標題「這真不可思議」，再配上發笑的表情圖，顯然沒有更正的誠意。人工智慧和深度偽造（deepfake）技術正迅速改變人們接收及處理訊息的方式，別有用心者企圖將其應用在影響公眾輿論及選舉結果，可以對民主制度構成前所未有的威脅與挑戰。
▲ 特斯拉創辦人馬斯克在川普遇襲後，正式表態支持川普。（圖／達志影像／美聯社）
深偽技術的崛起之所以能對選舉產生破壞性影響，主要是因為其可利用機器學習（machine learning）算法，製作逼真的假影片和音頻，在社群媒體上高效傳播給潛在的受影響者。
由於AI驅動的演算法可製作精巧的影音作品，其內容通常被設計用來引起群眾強烈的情緒反應，從而塑造輿論。影片的製作與傳播，還可對選民數據深入分析，而能更精準地定位其信息，從而更有效地傳播給特定群體的選民，從製作到傳送的精準程度令人防不勝防。
由於生成人工智慧的技術日益精進，幾乎任何人都可以創建虛假內容，且愈來愈令人信以為真，但實際上是虛假的圖像、音訊、視頻、虛構的，許多選民對於這種由AI驅動的謊言無從辨識。AI假信息越來越氾濫，社群媒體公司雖然多半想避免捲入政治的棘手內容爭議，但查不勝查，禁不勝禁，無法根絕欺騙性內容。
OpenAI聲稱已禁止使用其工具來做政治競選；Meta表示今年大選禁止大選前的最後一個星期投放新的政治廣告；對於用AI創建出來的圖像，Meta會標記說明。然而，實際上執行不易，往往假造的影片走遍全城後才開始在城門圍堵。
▲ 現在的深偽技術已進展至人類演員能直接操控螢幕上的機器人，進步到只需單一影像便能產出深偽模型。（示意圖／CFP）
深偽技術其實已問世多年，主要手法是將某人的影片移植到影片中，透過人工後製呈現虛擬真人。現在的深偽技術已進展至人類演員能直接操控螢幕上的機器人，進步到只需單一影像便能產出深偽模型。
人工智慧專家解釋說，這種即時深偽模型需要一個「操控者」負責演出的部分，當「演員」的樣貌疊加在操控者身上時，便能打造出其中一種深偽影片。深偽技術也能用於竄改訊息，或直接讓虛擬的真人說出假話，諸如此類的騙局已經層出不窮，競爭激烈的選舉焉能逃過這種劫數？
● 本文獲授權，轉載自「美麗島電子報」。以上言論不代表本網立場，歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net，本網保有文字刪修權。
讀者迴響