▲刑事局17日行動到新北市樹林逮捕網紅「小玉」朱玉宸。（圖／記者張君豪翻攝）
記者杜冠霖／台北報導
網紅「奎丁」去年曾控訴，自己遭Telegram群組「台灣網紅挖面」換臉成A片女主角，受害者從網紅到政治人物都有，警方接獲檢舉後追查，發現幕後主謀竟是百萬YouTuber小玉，18日上午將人逮捕。民進黨立委高嘉瑜表示，目前國內相關法制不足，「未來將推動修法，遏止這無法可管的數位性暴力！」
[廣告] 請繼續往下閱讀.
高嘉瑜表示，這樣的行為早已對女性的名譽造成不可抹滅的侵害，「不管是不是真的，更何況會有很多人認為是真的，這是最可怕的地方。無論如何，沒有人能接受未經自己同意的換臉影片在網路上流傳！」
對於未經本人同意而發布的「AI 換臉」影片，高嘉瑜指出，這就是一種變向散播假訊息的行為，但綜觀我國現行針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於「AI換臉」造假的影片目前仍無法可管。
高嘉瑜表示，就個人資料保護法的層面而言，因現行遭「AI換臉」的受害者多為公眾人物，照片等資料取得相對容易，臉部圖像若為合法公開或自行公開，自然也不在個資法保護範疇，說來說去，「最後有可能成立的，也只剩下刑法上的妨害名譽罪了。」網路危害所產生的侵害具有持續性，甚至可能跟隨被害人一輩子。而妨害名譽罪的刑度卻屬相對輕微，因其立法之初，並未考量網路性暴力對被害人所造成的深遠影響，「現如今繼續用舊條文來處理新的犯罪現象，顯然有罪責不相當的疑慮！」
對於濫用AI技術換臉的管控，高嘉瑜也表示，國際間多著眼於「AI技術倫理」的確立以及將其列為「假訊息」予以管制，以歐盟為例，其所建立的「AI倫理指引」中，囊括了諸如：影像的使用是否經過當事人同意、使用目的是否符合倫理性、是否落實資料保護措施等，一旦有違反上開規範的情形，行政單位就會即時介入並配合網路平台開罰違規用戶。
[廣告] 請繼續往下閱讀..
她舉美國法律為例指出，美國不僅要求所有經過AI換臉技術處理的影像，皆須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度。更是直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範！若使用AI換臉技術而有「意圖以性行為與裸體等類似特徵，侮辱或騷擾特定人者」，可處高達5年有期徒刑、行政罰鍰15萬美金、亦應負民事上的侵權損害賠償責任。
高嘉瑜表示，自己會致力於推動我國「AI換臉」管制之相關法令，五點關鍵在於：建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將「AI換臉」之濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任、於技術層面上，開發相關人工智慧工具以因應之，例如，美國新創公司Deeptrace已開始著手研發深度偽造辨識技術，以辨識影片之真偽。