[新聞] 被AI騙走60多萬！夫妻接電話「以為兒子在求救」　聲音竟是合成

看板Gossiping作者 (CANINE力集中在一些重要S)時間1年前 (2023/03/07 18:45), 編輯推噓30(32推 2噓 41→)
留言75則, 53人參與, 1年前最新討論串1/3 (看更多)
備註請放最後面 違者新聞文章刪除 1.媒體來源: ※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單） ※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許 ETtoday 2.記者署名: ※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天 ※ 外電至少要有來源或編輯 如:法新社 吳美依 3.完整新聞標題: ※ 標題沒有完整寫出來 ---> 依照板規刪除文章 被AI騙走60多萬！夫妻接電話「以為兒子在求救」　聲音竟是合成 4.完整新聞內文: ※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版 規 被AI騙走60多萬！夫妻接電話「以為兒子在求救」　聲音竟是合成 2023年03月7日 18:39 記者吳美依／綜合報導 加拿大一對夫妻接起電話，聽見「兒子」表示出車禍急需法律費用，心急如焚地透過比特 幣匯款2.1萬美元（約新台幣64.3萬元），後來才知道慘遭詐騙。原來，他們當初聽見的 熟悉嗓音不是親生孩子，而是人工智慧（AI）模擬合成。 《華盛頓郵報》報導，受害夫妻接到第一通電話，從自稱「律師」的男子口中得知，兒子 班傑明（Benjamin Perkin）在一場車禍中撞死外交官而入獄，接著話筒還傳來「班傑明 的聲音」開口要錢。後來，他們又接到第二通電話，「律師」宣稱班傑明需要2.1萬美元 的法律費用才能出庭。 夫妻倆愛子心切，迅速籌措資金匯款，後來才隱約感覺有些奇怪。不過，直到「真的」班 傑明當天稍晚打電話過來，他們才驚覺被騙。 班傑明受訪時說，那個聲音「足夠接近（我的聲音），讓我的父母真的相信他們在跟我說 話。」儘管一家人趕緊向加拿大當局報案，但「錢不見了，沒有保險，拿不回來了。」他 不知道詐騙集團從哪裡獲取自己的聲音，但確實曾在YouTube發布關於雪上摩托車的影片 。 《商業內幕》報導，更強大的人工智慧興起之際，冒充身分的詐騙案也持續增多。不過， 早在ChatGPT問世之前，涉及AI技術的詐騙就已經出現。 2019年，英國能源公司（British Energy）一名經理把24萬多美元匯入一個匈牙利帳戶， 因為他以為「老闆」打電話要求這麼做。今年1月，研究AI聲音複製及語音合成的美國新 創公司ElevenLabs也表示，他們注意到有人「把我們的科技用於惡意目的」，出現「越來 越多聲音複製的濫用案例」。舉例來說，4chan等匿名論壇上就有不肖人士使用AI技術模 擬與名人相似的聲音，說出種族歧視等不恰當言論。 美國聯邦貿易委員會（FTC）去年一共接獲240萬人通報詐欺案，最常見類型就是冒名頂替 者詐騙（Imposter scams），儘管案件數比前一年低，損失金額卻更高，達到88億美元。 FTC已經新成立一間科技辦公室，專門調查有發展前景且可能使用AI的公司，是否嘗試降 低產品可能造成的風險。發言人格倫瓦爾德（Juliana Gruenwald）表示，他們已經發現 社群媒體上的詐欺案激增，「產生看似真實影片、相片、音檔及文本的AI工具可能加速這 個趨勢，讓騙子更容易接觸受害者，速度也更快…我們也關心深偽技術（deepfake）與其 他基於人工智慧的合成媒體的風險，它們變得越來越容易創作及散布，將被用於詐騙。」 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: ※ 當新聞連結過長時，需提供短網址方便網友點擊 https://www.ettoday.net/news/20230307/2454207.htm 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶， 請? ※ 備註請勿張貼三日內新聞(包含連結、標題等) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.140.154.165 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1678185956.A.B31.html
噓
03/07 18:46, 1年前 , 1F
AI新商機
03/07 18:46, 1F
推
03/07 18:47, 1年前 , 2F
詐騙王國：原來還有這招
03/07 18:47, 2F
推
03/07 18:47, 1年前 , 3F
賺錢的味道
03/07 18:47, 3F
→
03/07 18:48, 1年前 , 4F
柯南賺翻了
03/07 18:48, 4F
→
03/07 18:48, 1年前 , 5F
再搭配AI繪圖的話..
03/07 18:48, 5F
→
03/07 18:48, 1年前 , 6F
錢 性慾..最能激發人類
03/07 18:48, 6F
→
03/07 18:48, 1年前 , 7F
鄉民：換臉有這麼嚴重嗎
03/07 18:48, 7F
推
03/07 18:48, 1年前 , 8F
這種詐騙不用AI好嗎
03/07 18:48, 8F
→
03/07 18:48, 1年前 , 9F
詐騙集團不成立政黨從政真是可惜了
03/07 18:48, 9F
→
03/07 18:48, 1年前 , 10F
世界怎麼跟得上台灣
03/07 18:48, 10F
→
03/07 18:49, 1年前 , 11F
再結合deepfake 開視訊還可以演被打給你
03/07 18:49, 11F
→
03/07 18:49, 1年前 , 12F
看
03/07 18:49, 12F
推
03/07 18:49, 1年前 , 13F
小英只是軟體
03/07 18:49, 13F
推
03/07 18:49, 1年前 , 14F
敗家子們快真的騙父母錢之後讓AI背鍋
03/07 18:49, 14F
推
03/07 18:49, 1年前 , 15F
證明這工具確實危險吧
03/07 18:49, 15F
→
03/07 18:50, 1年前 , 16F
你今天換總統的臉再配聲音 可以搞多
03/07 18:50, 16F
→
03/07 18:50, 1年前 , 17F
大的恐慌
03/07 18:50, 17F
→
03/07 18:50, 1年前 , 18F
柬埔寨人真聰明
03/07 18:50, 18F
推
03/07 18:51, 1年前 , 19F
這麼厲害
03/07 18:51, 19F
推
03/07 18:51, 1年前 , 20F
除非他兒子是名人，才有素材能合成吧
03/07 18:51, 20F
推
03/07 18:52, 1年前 , 21F
乾，如果ai模擬的聲音真的那麼像，
03/07 18:52, 21F
推
03/07 18:52, 1年前 , 22F
金BI
03/07 18:52, 22F
→
03/07 18:52, 1年前 , 23F
很恐怖欸……
03/07 18:52, 23F
推
03/07 18:53, 1年前 , 24F
聲音辨識技術辨識的出來嗎
03/07 18:53, 24F
→
03/07 18:54, 1年前 , 25F
以後就設個家族密碼嘛 講不出來都假的
03/07 18:54, 25F
推
03/07 18:56, 1年前 , 26F
連詐騙集團都開始用ai了，你還不學嗎
03/07 18:56, 26F
推
03/07 18:58, 1年前 , 27F
跟當兵一樣都要講口號
03/07 18:58, 27F
推
03/07 18:59, 1年前 , 28F
哀...台灣老人用LINE都可以騙了
03/07 18:59, 28F
→
03/07 18:59, 1年前 , 29F
難以想像以後的世界他們會被玩得多慘
03/07 18:59, 29F
噓
03/07 18:59, 1年前 , 30F
這麼猛 詐騙還得先收集兒子的聲紋來模
03/07 18:59, 30F
→
03/07 18:59, 1年前 , 31F
擬
03/07 18:59, 31F
→
03/07 19:02, 1年前 , 32F
AI聲音配合AI照片 能騙超多人
03/07 19:02, 32F
→
03/07 19:03, 1年前 , 33F
最好跟小孩定個危險暗號
03/07 19:03, 33F
→
03/07 19:03, 1年前 , 34F
原來還可以這樣運用 厲害
03/07 19:03, 34F
→
03/07 19:04, 1年前 , 35F
聽說微軟的vall-e只要聽三秒就能模擬了
03/07 19:04, 35F
→
03/07 19:04, 1年前 , 36F
捏
03/07 19:04, 36F
推
03/07 19:04, 1年前 , 37F
台灣以前就一堆了啊，我媽也接過
03/07 19:04, 37F
→
03/07 19:04, 1年前 , 38F
不用AI啦，笨的人分不出來
03/07 19:04, 38F
推
03/07 19:09, 1年前 , 39F
ai nl 唱歌
03/07 19:09, 39F
推
03/07 19:13, 1年前 , 40F
AI聲音?所以詐騙集團知道你的聲音??
03/07 19:13, 40F
推
03/07 19:14, 1年前 , 41F
03/07 19:14, 41F
推
03/07 19:16, 1年前 , 42F
以前遇過用口音電話詐騙的
03/07 19:16, 42F
推
03/07 19:16, 1年前 , 43F
以後家人溝通要跟間諜一樣設定暗號
03/07 19:16, 43F
→
03/07 19:17, 1年前 , 44F
口音有地域性的
03/07 19:17, 44F
推
03/07 19:20, 1年前 , 45F
03/07 19:20, 45F
→
03/07 19:20, 1年前 , 46F
ai合成影像，做出親人被綁架遮眼的樣子
03/07 19:20, 46F
→
03/07 19:21, 1年前 , 47F
以後詐騙會越來越逼真
03/07 19:21, 47F
推
03/07 19:21, 1年前 , 48F
ai真的開始騙人了
03/07 19:21, 48F
→
03/07 19:23, 1年前 , 49F
家人才知道的家族暗號或者密碼 兩組
03/07 19:23, 49F
→
03/07 19:24, 1年前 , 50F
老人最慘 最慌最急 最有錢 =_=
03/07 19:24, 50F
推
03/07 19:25, 1年前 , 51F
以後家人之間也需要暗號了
03/07 19:25, 51F
→
03/07 19:28, 1年前 , 52F
怎麼知道聲音是合成的?
03/07 19:28, 52F
推
03/07 19:29, 1年前 , 53F
這招新的耶
03/07 19:29, 53F
推
03/07 19:31, 1年前 , 54F
ㄟ不是 不認識的怎知道
03/07 19:31, 54F
→
03/07 19:38, 1年前 , 55F
以後詐騙會越來越精準化，用你兒子
03/07 19:38, 55F
→
03/07 19:38, 1年前 , 56F
的臉跟聲音拍一支監禁毆打畫面，然
03/07 19:38, 56F
→
03/07 19:38, 1年前 , 57F
後買一個他的隨身物品沾點假血寄給
03/07 19:38, 57F
→
03/07 19:38, 1年前 , 58F
你，並且限時30分鐘匯款否則撕票，
03/07 19:38, 58F
→
03/07 19:39, 1年前 , 59F
當然，會想辦法製造出你無法馬上聯
03/07 19:39, 59F
→
03/07 19:39, 1年前 , 60F
繫你兒子的情境
03/07 19:39, 60F
推
03/07 19:51, 1年前 , 61F
這20年前的手法了...
03/07 19:51, 61F
推
03/07 19:51, 1年前 , 62F
這很針對性，連兒子聲音都知道?
03/07 19:51, 62F
→
03/07 19:51, 1年前 , 63F
世界怎跟得上台灣
03/07 19:51, 63F
推
03/07 19:55, 1年前 , 64F
03/07 19:55, 64F
→
03/07 19:57, 1年前 , 65F
你想要什麼聲音訓練一下都有
03/07 19:57, 65F
→
03/07 19:58, 1年前 , 66F
新招
03/07 19:58, 66F
→
03/07 19:59, 1年前 , 67F
再加上deepfake 你想要什麼臉跟聲音都有
03/07 19:59, 67F
→
03/07 20:05, 1年前 , 68F
可憐吶 嘻嘻
03/07 20:05, 68F
→
03/07 20:13, 1年前 , 69F
ai繪圖換臉根本就是詐騙神器
03/07 20:13, 69F
推
03/07 20:13, 1年前 , 70F
魔鬼終結者演過了
03/07 20:13, 70F
推
03/07 20:39, 1年前 , 71F
要是再合成影片開視訊一定更多人上當
03/07 20:39, 71F
推
03/07 20:43, 1年前 , 72F
台灣也有,我媽前幾天才被這招騙40幾萬
03/07 20:43, 72F
推
03/07 20:57, 1年前 , 73F
哇靠，這招太狠了
03/07 20:57, 73F
→
03/07 21:37, 1年前 , 74F
無人化新高度
03/07 21:37, 74F
→
03/08 00:49, 1年前 , 75F
謝謝讓台灣詐騙集團學到了
03/08 00:49, 75F
‣ 更多 iamshana 的文章
文章代碼(AID): #1a1nNain (Gossiping)
討論串 (同標題文章)
以下文章回應了本文 (最舊先)：
完整討論串 (本文為第 1 之 3 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共3篇)
‣ 更多 iamshana 的文章
文章代碼(AID): #1a1nNain (Gossiping)