[新聞] OpenAI認了「人聲複製新工具」太危險

看板Gossiping作者 (贖罪聖音)時間4周前 (2024/04/01 14:39), 編輯推噓77(80推 3噓 60→)
留言143則, 117人參與, 4周前最新討論串1/3 (看更多)
1.媒體來源:東森新聞雲 2.記者吳美依 3.完整新聞標題: OpenAI認了「人聲複製新工具」太危險　不宜全面開放 4.完整新聞內文: https://cdn2.ettoday.net/images/7351/d7351915.jpg
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」，只需要短短15 秒的說話聲音樣本，就能複製出此人聲音。不過，該公司也認定這項語音複製工具風險太大 ，不適合全面發布。 「Voice Engine」於2022年首次研發，初始版本被使用在ChatGPT內建文字轉語音功能。其 生成結果不受聲音樣本語種限制，若說的是英文，這項技術可使用你的聲音，生成西班牙語 、法語等其他語言結果。不過，考量到存在濫用風險，現階段僅提供合作夥伴使用，尚未對 外開放。 《衛報》報導，OpenAI延遲推出「Voice Engine」，是為了在至關重要的全球大選年，最大 限度地減少假消息出現的可能性。 OpenAI在一篇貼文中表示，目前「Voice Engine」的生成結果都有浮水印，以利追蹤生成式 音檔的來源。與合作夥伴的使用條款也規定，必須取得原始說話者的明確知情同意，更不允 許開發人員讓個人用戶自行創造聲音檔案。 OpenAI表示，「目前選擇預覽而非廣泛發布這項技術」，是為了強化社會面對「更具說服力 的生成式模型」的能力，呼籲逐步淘汰語音認證，作為登入銀行帳戶或其他敏感資訊的安全 措施，制定在AI領域使用個人聲音的保護政策，以及推廣理解AI能力與限制、包括欺騙性內 容的公眾教育。 OpenAI寫道，「我們希望針對負責任地使用合成聲音，以及社會如何適應這些新功能，展開 一場對話」，並且根據對話結果及小規模測試，對於是否、如何大規模使用這項技術，做出 更明智的決定。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.ettoday.net/news/20240401/2710876.htm 6.備註: o'-'o -- ▄▅▄ ▄▅▄ ▂▃▂ ▁▂▁ ▲▅▃ .-——-﹏ ▊▎ ▄▄ ▊▎ Trinity ◢| \ ▼ ◤/ ▁▲◆ ◢\ ▇▅ ☆∕▄▅▄ \ ▄▄▄▄ ▲◤◣◣ ▼ ( ◢◢▲▲ ▲◤▼◣※ ▄◥▼▼▼ ▄▄▃▄▄▃▄ Make-Up ◢● ●▲ ▍▆ ▆▏ ▲● ●◣ ▲▲⊙ ⊙▅◆ ▊▎ ▄▊▎ ▼▲ ▂ ▲◢ ▊▲ ～ ▍ ▏ ▲ ▼ ▲◣ ▲/▇/▲ ▼ ▃ ▃ Work Club ▲▲▅◢ ▲ ▍▲▆▄▎▎ ▼●▆▆▼▍ ▲▆┴▅▃▲ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.230.149.98 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1711953598.A.052.html
推
04/01 14:40, 4周前 , 1F
統神早就有了 不愧是神
04/01 14:40, 1F
推
04/01 14:40, 4周前 , 2F
放心 肯定快氾濫了
04/01 14:40, 2F
→
04/01 14:40, 4周前 , 3F
台灣政治人物以後說過啥話都可以不用認了
04/01 14:40, 3F
→
04/01 14:40, 4周前 , 4F
沒事本來就有了 還是更猛?
04/01 14:40, 4F
推
04/01 14:41, 4周前 , 5F
當有第一個出現，大量出現是遲早的事
04/01 14:41, 5F
噓
04/01 14:41, 4周前 , 6F
翻譯: 多給點錢就開放這功能
04/01 14:41, 6F
→
04/01 14:41, 4周前 , 7F
你隨便到github上都能找到成熟的相
04/01 14:41, 7F
→
04/01 14:41, 4周前 , 8F
連我媽 都以為AI是我 本尊是假的^^
04/01 14:41, 8F
→
04/01 14:41, 4周前 , 9F
似軟體，講得什麼先進東西一樣笑死
04/01 14:41, 9F
→
04/01 14:42, 4周前 , 10F
幾百年前就已經超級氾濫的東西
04/01 14:42, 10F
推
04/01 14:42, 4周前 , 11F
柯南
04/01 14:42, 11F
推
04/01 14:42, 4周前 , 12F
詐騙的極致
04/01 14:42, 12F
推
04/01 14:43, 4周前 , 13F
統神都一堆了 sb
04/01 14:43, 13F
推
04/01 14:43, 4周前 , 14F
配音員全面失業
04/01 14:43, 14F
推
04/01 14:44, 4周前 , 15F
早就有了
04/01 14:44, 15F
推
04/01 14:44, 4周前 , 16F
詐騙集團一定會弄到手
04/01 14:44, 16F
→
04/01 14:44, 4周前 , 17F
我準備開間 生前複製 公司把 志玲嘉嘉數位化
04/01 14:44, 17F
→
04/01 14:45, 4周前 , 18F
拜託，都一堆用ai 外國歌手聲音唱中文歌了
04/01 14:45, 18F
→
04/01 14:46, 4周前 , 19F
木村拓哉金城武也數位化做成AI
04/01 14:46, 19F
→
04/01 14:47, 4周前 , 20F
來不及了 詐騙集團都弄到手了
04/01 14:47, 20F
推
04/01 14:47, 4周前 , 21F
風險太大XDD
04/01 14:47, 21F
→
04/01 14:47, 4周前 , 22F
這個用在老人死去後遺產分配上用
04/01 14:47, 22F
推
04/01 14:47, 4周前 , 23F
選前: 貪汙錄音證據 抓到了
04/01 14:47, 23F
→
04/01 14:48, 4周前 , 24F
這件事情 哪一年美國選舉會出現呢?
04/01 14:48, 24F
→
04/01 14:48, 4周前 , 25F
即使是不孝子也能靠AI變造口述遺囑
04/01 14:48, 25F
推
04/01 14:48, 4周前 , 26F
柯南表示 :
04/01 14:48, 26F
推
04/01 14:48, 4周前 , 27F
一堆開源早就到處流竄了
04/01 14:48, 27F
→
04/01 14:48, 4周前 , 28F
這東西真的會影響的 是聲紋辨識的保安系統
04/01 14:48, 28F
推
04/01 14:48, 4周前 , 29F
不開放=我可以用 你們不能用～
04/01 14:48, 29F
→
04/01 14:48, 4周前 , 30F
拿到大量財產
04/01 14:48, 30F
推
04/01 14:48, 4周前 , 31F
詐騙集團要爽到射精了
04/01 14:48, 31F
推
04/01 14:48, 4周前 , 32F
已經夠氾濫了
04/01 14:48, 32F
→
04/01 14:49, 4周前 , 33F
人耳聽起來像 跟聲紋比對系統相比 太粗糙
04/01 14:49, 33F
→
04/01 14:49, 4周前 , 34F
大陸網路卡通早就一堆明星AI配音了
04/01 14:49, 34F
→
04/01 14:49, 4周前 , 35F
很快就會在政治上 出現了
04/01 14:49, 35F
噓
04/01 14:49, 4周前 , 36F
內文根本沒說不開放 而且已經給他們
04/01 14:49, 36F
推
04/01 14:49, 4周前 , 37F
有錢的還不是照用 變普通人用不到而已
04/01 14:49, 37F
→
04/01 14:49, 4周前 , 38F
目前用最多聲紋比對的 就各國的類FBI CIA
04/01 14:49, 38F
→
04/01 14:50, 4周前 , 39F
的合作夥伴使用了 簡單來說就是要錢
04/01 14:50, 39F
還有 64 則推文
推
04/01 16:52, 4周前 , 104F
台語有辦法嗎？
04/01 16:52, 104F
推
04/01 16:59, 4周前 , 105F
可以用AI叫hey! Siri
04/01 16:59, 105F
→
04/01 17:07, 4周前 , 106F
misson impossible 第幾集？
04/01 17:07, 106F
→
04/01 17:17, 4周前 , 107F
AI影像目前還很假 但聲音就不知道了
04/01 17:17, 107F
推
04/01 17:18, 4周前 , 108F
有錄音為證，傳位于四子
04/01 17:18, 108F
→
04/01 17:24, 4周前 , 109F
以後就是人造人時代了...人類會被AI取代
04/01 17:24, 109F
推
04/01 17:27, 4周前 , 110F
詐騙集團表示
04/01 17:27, 110F
推
04/01 17:28, 4周前 , 111F
遲早的
04/01 17:28, 111F
→
04/01 17:28, 4周前 , 112F
以後只能講台語
04/01 17:28, 112F
推
04/01 17:39, 4周前 , 113F
詐騙集團：商機來囉…
04/01 17:39, 113F
→
04/01 17:41, 4周前 , 114F
已經有一堆開源的
04/01 17:41, 114F
推
04/01 17:43, 4周前 , 115F
晚了
04/01 17:43, 115F
推
04/01 18:00, 4周前 , 116F
AI遲早會毀了世界秩序
04/01 18:00, 116F
→
04/01 18:12, 4周前 , 117F
Mission Impossible3, what is rab
04/01 18:12, 117F
→
04/01 18:12, 4周前 , 118F
bit foot?
04/01 18:12, 118F
推
04/01 18:31, 4周前 , 119F
詐騙好幫手
04/01 18:31, 119F
→
04/01 18:38, 4周前 , 120F
合作夥伴才能用，感覺更危險
04/01 18:38, 120F
推
04/01 18:48, 4周前 , 121F
來不及了
04/01 18:48, 121F
推
04/01 18:52, 4周前 , 122F
AI孫燕姿表示
04/01 18:52, 122F
推
04/01 18:53, 4周前 , 123F
有這個選舉會被拿來抹黑
04/01 18:53, 123F
推
04/01 19:05, 4周前 , 124F
阿不就變聲器
04/01 19:05, 124F
推
04/01 19:32, 4周前 , 125F
沈睡的小五郎
04/01 19:32, 125F
推
04/01 19:55, 4周前 , 126F
這東西不算違法肖像權嗎？
04/01 19:55, 126F
→
04/01 20:45, 4周前 , 127F
b站都已經教你怎麼搞了你新聞現在才出
04/01 20:45, 127F
推
04/01 21:12, 4周前 , 128F
數位世界會不會因此崩掉？還是成長
04/01 21:12, 128F
→
04/01 21:20, 4周前 , 129F
AI有沒有認為政治人物很危險?
04/01 21:20, 129F
→
04/01 21:21, 4周前 , 130F
詐騙早就拿來用了 還要你開放喔 笑死
04/01 21:21, 130F
推
04/01 21:29, 4周前 , 131F
詐騙集團準備好了
04/01 21:29, 131F
推
04/01 22:16, 4周前 , 132F
世界進入失序的開始
04/01 22:16, 132F
推
04/01 22:30, 4周前 , 133F
04/01 22:30, 133F
推
04/01 22:30, 4周前 , 134F
統神已經唱遍所有熱門金曲了
04/01 22:30, 134F
→
04/01 22:31, 4周前 , 135F
看看咱們台灣人
04/01 22:31, 135F
推
04/01 23:16, 4周前 , 136F
銀行肯定是等到遍地開花才會開始動作啊
04/01 23:16, 136F
→
04/01 23:16, 4周前 , 137F
，所以就直接放出來吧
04/01 23:16, 137F
→
04/02 00:18, 4周前 , 138F
可以複製一堆妹子跟我打砲嗎
04/02 00:18, 138F
→
04/02 00:19, 4周前 , 139F
台灣不怕 換臉禁了 換音一樣可以
04/02 00:19, 139F
推
04/02 01:32, 4周前 , 140F
詐騙更好
04/02 01:32, 140F
→
04/02 03:08, 4周前 , 141F
早就有了啊 你不出別人會出阿
04/02 03:08, 141F
推
04/02 07:50, 4周前 , 142F
這部我看過 阿湯哥演的
04/02 07:50, 142F
→
04/02 09:26, 4周前 , 143F
一些生物辨識的技術是不是都可以廢了
04/02 09:26, 143F
‣ 更多 Israfil 的文章
文章代碼(AID): #1c2bQ-1I (Gossiping)
討論串 (同標題文章)
以下文章回應了本文 (最舊先)：
完整討論串 (本文為第 1 之 3 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共3篇)
‣ 更多 Israfil 的文章
文章代碼(AID): #1c2bQ-1I (Gossiping)