一位銀行經(jīng)理接到公司董事打來(lái)的電話：公司安排了一項(xiàng)收購(gòu)，要從賬戶里轉(zhuǎn)出巨額資金，希望他批準(zhǔn)這道流程，還附上了相關(guān)律師的電子郵件，以確認(rèn)金額和轉(zhuǎn)入賬戶。
這次交易合法合規(guī)，流程也并無(wú)問(wèn)題，況且還是老板親自打的電話，他就按要求將 3500 萬(wàn)美元如數(shù)轉(zhuǎn)出。
晴天霹靂的背后是 AI 語(yǔ)音轉(zhuǎn)換
直到轉(zhuǎn)完賬之后，這位迪拜高管也萬(wàn)萬(wàn)沒(méi)有想到，電話那頭熟悉的老板的聲音，其實(shí)是用語(yǔ)音克隆技術(shù)合成的。
這樁詐騙案由福布斯報(bào)道，但受害者的名字和其他更多細(xì)節(jié)沒(méi)有透露。據(jù)估計(jì)，這項(xiàng)精密的計(jì)劃至少涉及 17 人，自去年年初，騙取的資金已經(jīng)發(fā)往全球各地的銀行賬戶。
如果不是親耳聽(tīng)到，應(yīng)該是不會(huì)相信會(huì)有這么神奇的事。
不過(guò)不得不說(shuō)，能做到這種程度已經(jīng)能夠以假亂真了。如果有更長(zhǎng)的時(shí)間和更多的素材去訓(xùn)練，相似程度應(yīng)該還能更上一層樓。
更可怕的是，如此逼真的轉(zhuǎn)換，操作起來(lái)也不難。
例如在 Github 上大火的 AI 擬聲項(xiàng)目 Real-Time-Voice-Cloning，能夠在 5s 內(nèi)克隆你的聲音并生成任意內(nèi)容，還能直接下載或者自行訓(xùn)練合成器。
開(kāi)源項(xiàng)目可以直接從 GitHub 上直接獲取。
然后再錄入一段你的聲音和目標(biāo)聲音，打出想要讀出的文本內(nèi)容，就可以克隆出一段輸出音頻了。
面對(duì)這樣以假亂真的效果，也就不難理解這位銀行高管為什么會(huì)被輕易詐騙了。但這僅是已知使用語(yǔ)音克隆實(shí)施巨額詐騙的第二例，已經(jīng)遠(yuǎn)比第一例英國(guó)某能源公司 22 萬(wàn)歐元詐騙案更為成功，其破壞力可見(jiàn)一斑。
科技中立，善惡由人
了解完這樣的新型詐騙手段不禁讓人想問(wèn)，發(fā)明出 AI 語(yǔ)音轉(zhuǎn)換難道是用來(lái)騙人的嗎？
完全不是，語(yǔ)音轉(zhuǎn)換本可以用來(lái)做很有意義的事。在前些時(shí)候，語(yǔ)音轉(zhuǎn)換技術(shù)就曾在央視節(jié)目《等著我》中出現(xiàn)，幫助退役多年的袁爺爺，找回了當(dāng)時(shí)在戰(zhàn)場(chǎng)上一同作戰(zhàn)的老排長(zhǎng)的“聲音”。
但是在各種科技公司研究語(yǔ)音轉(zhuǎn)換技術(shù)給人帶來(lái)便利的同時(shí)，也需要謹(jǐn)防人工智能在網(wǎng)絡(luò)犯罪中的惡意使用。
如今已有少數(shù)信息安全方面的創(chuàng)業(yè)公司關(guān)注到這一點(diǎn)。他們聲稱可以檢測(cè)出合成的語(yǔ)音以防止詐騙。
反詐原理是通過(guò)對(duì)比音頻里單詞的實(shí)際發(fā)音在細(xì)微程度上是否與真實(shí)人類的說(shuō)話模式相匹配，畢竟人類發(fā)音不會(huì)像機(jī)器一樣標(biāo)準(zhǔn)、機(jī)械。
這也給我們提了一個(gè)醒，有必要及時(shí)關(guān)注科技新進(jìn)展，不斷提高安全意識(shí)。
對(duì)于長(zhǎng)輩來(lái)說(shuō)，今后除了要下載反詐 App，可能還要多驗(yàn)證驗(yàn)證電話另一端是不是真正的兒子和女兒。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。