15秒語音生成功能 恐危害社會不公開

莊宇欽 2024/04/02 16:07 點閱 2753 次
OpenAI研發人工智慧新技術,聲稱使用者將語音上傳應用程式,便能迅速複製成AI聲音。(Photo by Levart Photographer on Unsplash under C.C License)
OpenAI研發人工智慧新技術,聲稱使用者將語音上傳應用程式,便能迅速複製成AI聲音。(Photo by Levart Photographer on Unsplash under C.C License)

【台灣醒報記者莊宇欽綜合報導】OpenAI推出語音合成功能,僅需15秒就能複製人聲,但至今卻尚未公開發布!OpenAI近日研發人工智慧新技術,聲稱使用者將語音上傳應用程式,便能迅速複製成AI聲音。然而,該技術的應用將可能成為詐欺、傳播錯誤資訊的工具,甚至影響全球大選的結果。

AI語音技術未公開

衛報》報導,OpenAI研發一款語音合成的人工智慧程式,該程式僅需15秒的錄音檔,便足以生成可信度高的聲音。然而,為採取更嚴格的審查,目前仍無法公開發布,也避免其對全球各地的選舉造成錯誤訊息傳播。

2022年,OpenAI開發ChatGPT作為文字轉語音的人工智慧工具,但其強大功能卻只有一部分被公開,以避免其對社會造成危害。如今,語音合成技術已進入應用階段,未來OpenAI也將更謹慎向社會大眾來發布。

OpenAI在部落格文章中表示,他們希望對語音合成技術負起責任,以及對社會如何適應AI新功能展開對話,而根據相關調查結果,也將針對這項技術做出更明智的決定。

保障使用者資安隱私

半島電視台》指出,OpenAI強調該語音合成技術的應用,只能在確保使用者在知情的情況下,將自己的聲音錄製在程式中,並防止他人創建與知名人物相似的聲音。

另外,OpenAI也與來自政府及民間領域的夥伴進行合作,盼在創建新技術過程中獲得他們回饋。況且,該人工智慧程式已實施多項安全措施,包括添加浮水印追蹤語音來源,以及主動監控其使用方式,保障使用者的資安隱私。