記者張君豪／台北報導
刑事局偵四大隊18日宣布破獲知名網紅小玉、笑笑團隊涉嫌利用AI繪圖演算技術「deepfake」後製包含知名台灣女網紅、明星名人換臉A片，並透過加密通訊軟體Telegram開設群組招收會員販售牟利，短短一年獲利逾千萬元；刑事局證實這也是台灣治安史上首例利用繪圖AI演算深偽技術，衍生的新型犯罪行為。
▲網紅笑笑、小玉捲入販售換臉A片案件遭警方逮捕。（圖／翻攝自笑笑Instagram、記者張君豪翻攝）
加上身為YouTuber的小玉曾在愚人節當天上傳一則韓國瑜誇張言詞搞笑影片，雖然小玉辯稱是向民眾呼籲假新聞風險，但未來deepfake換臉技術若結合政治、犯罪目的散播假影片資訊，對社會治安影響不容小覷。
▲警方查扣網紅小玉販售換臉A片所得458萬餘元贓款。（圖／記者張君豪攝）
警方點出，網紅小玉就曾在惡搞韓國瑜影片中表示，「該影片是花人民幣購買AI換臉軟體、只要花30分鐘和一個配音員、我可以讓韓國瑜講出任何我想要他講的話。」但小玉操盤製作女網紅、女模及名人民代換臉A片，不但不是正常影音創作，換臉A片遭移植的當事人形象、聲譽人格造成嚴重貶損。
刑事局說明，deepfake中文翻譯成「深偽」或「深假」是一種透過人工智慧（AI）技術中的深度學習演算形成的虛假訊息，該技術可以應用於偽冒影像及聲音，只需被仿造對象的大量相片、影片，透過電腦深度學習（deep learning）就可以製造肉眼很難分辨的假影片。
刑事局表示，國外科技巨擘、司法機關早就開始針對深偽影片的鑑識方式、分析軟體進行開發；肇因像小玉這樣利用deepfake技術開發換臉A片，造成散播猥褻物品及造成受害當事人的困擾；但若將該技術用於仿冒國家元首、政府官長或是政黨領袖的虛假影音，將有可能衍生社會治安、選舉公平、甚至輿論動盪、民眾對立等社會問題。
警方分析國外案例，去年英國有歹徒利用深偽技術，掌握模仿某跨國企業執行長的語音技術，撥打電話給該公司出納人員，因此順利騙匯鉅款到跨國帳戶；因此包含歐美執法機關，甚至Google、微軟等網路科技巨擘莫不投入開發針對deepfake後製影片的辨識軟體，等同對該類影音技術「資訊戰爭」早已開打。
由於民眾僅需微薄資訊技能，就能在Github等開源程式碼平台取得相關程式碼，或者下載各類換臉APP，要做出簡單換臉影片並非難事，社群軟體龍頭包含臉書、推特紛紛開發「換臉影音辨識審核機制」，防堵換臉假影片透過社群軟體流傳。
目前台灣相關法律規定對deepfake換臉影片並無任何規範罰則，網紅小玉販售知名女網紅、模特兒及名人換臉A片是否引發後續修法效應，有待觀察。
【其他新聞】
讀者迴響