OpenAI推出語音複製工具Voice Engine強化防範語音造假詐騙措施

  •  2024-03-31

OpenAI推出語音複製工具Voice Engine強化防範語音造假詐騙措施 7

CNEWS匯流新聞網記者王佐銘/綜合報導

美國人工智慧(AI)領先開發公司OpenAI宣布推出一項名為Voice Engine的創新語音複製工具,以在應對語音造假詐騙等挑戰。該公司透露,Voice Engine能夠根據僅15秒的聲音樣本,複製出一個人的聲音,為解決可能帶來的潛在風險,OpenAI強調將實施嚴格的管制措施。

根據法新社報導,OpenAI表示,Voice Engine的開發是出於對日益增長的語音造假問題的關注。認識到這種技術可能被惡意使用,尤其在關鍵的選舉年,OpenAI已經與政府、媒體、娛樂、教育和公民社會等各界合作,確保在開發過程中充分納入各方意見,以確保工具的負面影響最小化。

近期,一名民主黨總統初選候選人的政治顧問承認,他曾利用AI生成的自動語音電話,假冒總統拜登的聲音,呼籲選民不要在新罕布什爾州初選中投票。這一事件引起了專家們的擔憂,他們警告說,在今年的美國總統大選以及其他全球重要選舉之前,可能會出現大量由AI生成的深偽假資訊,對社會和政治穩定帶來嚴重威脅。

為應對這些挑戰,OpenAI已經實施了一系列安全措施,包括打上數位浮水印以追蹤聲音的來源,並主動監控工具的使用情況。此外,該公司的合作夥伴已同意一些規範,例如確保被複製聲音的人明確知情同意,以及向受眾明確告知所聽到的聲音是由AI生成的。

OpenAI的發言人表示,我們對語音複製技術的潛在濫用非常警惕,特別是在關鍵的選舉時刻。我們將繼續與各界合作,盡最大努力防止這一技術被惡意利用,並確保人們對所聽到的聲音保持謹慎和警惕。

隨著OpenAI的努力和新技術的推出,對於語音造假詐騙的防範工作將迎來一個重要的里程碑。然而,面對這一挑戰,仍然需要各方攜手合作,共同努力維護信息的真實性和社會的安全穩定。

《更多CNEWS匯流新聞網報導》

加強交流及情誼 北律與洛杉磯郡律師公會簽署友好協議

領隊當詐團軍師 律師鄭鴻威延長羈押

【文章轉載請註明出處】