▲張文宏遭「AI換臉」推銷蛋白棒。（圖／翻攝微博）
記者蔡紹堅／綜合報導
中國大陸網紅醫生張文宏近日成為「AI換臉」受害者，有不肖的保健食品廠商冒用了他的臉及聲音來介紹產品，為產品背書，至少已售出上千件，不少老人的信以為真，不只下了單，還分享給親朋好友。
根據《央視財經》報導，有網友近日向媒體反映，家中老人在網路賣貨的影片中看到「張文宏醫生」再買一種蛋白類產品，信以為真，下單還轉發到很多群組。
不過，影片裡面的張文宏並非真正的張文宏，而是利用AI技術合成的。從影片中可以看到，被合成的人反覆介紹一款「蛋白棒」，聲音聽起來也很像張文宏的聲音。
售賣的連結顯示，蛋白棒已經賣出1200多件。張文宏受訪時表示，這樣的賣或帳號不只一個，而且一直在變，他已經多次向平台投訴。
▼「AI換臉」技術被許多不肖人士用於詐騙。（圖／翻攝CCTV）
張文宏說，這件事情已經有幾個星期了，一開始他進行了投訴，「特別是有些對AI不是很熟悉的、年紀比較大的人，他們很容易就會相信。這種行為侵佔了消費者的利益，所以我覺得應該是有相應的部門來處理這方面的問題。」
報導提到，目前用語音合成來模仿他人聲音，並且對上口型生成影片的技術已經非常成熟，甚至只用一張照片就能生成此類影片。
上海人工智能研究院數字化治理中心主任彭嘉昊指出，面對每天產出的大量視頻，監控、管理的難度相對而言比較大，約束這些服務的提供商才是綜合治理這類事件的核心動作。
為了整治相關亂象，大陸國家網信辦今年9月發布了《人工智能生成合成內容標識辦法（徵求意見稿）》，要求從影片製作和發布的源頭做好訊息管理。
▼大陸國家網信辦發布《人工智能生成合成內容標識辦法（徵求意見稿）》。
讀者迴響