OpenAI認了「人聲複製新工具」太危險 不宜全面開放

▲OpenAI於上月底公布語音AI工具 。（圖／路透）

記者吳美依／綜合報導

美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」，只需要短短15秒的說話聲音樣本，就能複製出此人聲音。不過，該公司也認定這項語音複製工具風險太大，不適合全面發布。

「Voice Engine」於2022年首次研發，初始版本被使用在ChatGPT內建文字轉語音功能。其生成結果不受聲音樣本語種限制，若說的是英文，這項技術可使用你的聲音，生成西班牙語、法語等其他語言結果。不過，考量到存在濫用風險，現階段僅提供合作夥伴使用，尚未對外開放。

《衛報》報導，OpenAI延遲推出「Voice Engine」，是為了在至關重要的全球大選年，最大限度地減少假消息出現的可能性。

OpenAI在一篇貼文中表示，目前「Voice Engine」的生成結果都有浮水印，以利追蹤生成式音檔的來源。與合作夥伴的使用條款也規定，必須取得原始說話者的明確知情同意，更不允許開發人員讓個人用戶自行創造聲音檔案。

OpenAI表示，「目前選擇預覽而非廣泛發布這項技術」，是為了強化社會面對「更具說服力的生成式模型」的能力，呼籲逐步淘汰語音認證，作為登入銀行帳戶或其他敏感資訊的安全措施，制定在AI領域使用個人聲音的保護政策，以及推廣理解AI能力與限制、包括欺騙性內容的公眾教育。

OpenAI寫道，「我們希望針對負責任地使用合成聲音，以及社會如何適應這些新功能，展開一場對話」，並且根據對話結果及小規模測試，對於是否、如何大規模使用這項技術，做出更明智的決定。

15秒就能複製人聲！　OpenAI披露語音新工具「Voice Engine」