8 月 15 日消息，據(jù)美媒報(bào)道，近年來，人工智能深度偽造技術(shù)（Deepfake）在網(wǎng)絡(luò)詐騙中廣泛應(yīng)用，尤其是利用偽造的埃隆?馬斯克（Elon Musk）視頻進(jìn)行詐騙的案例尤為突出。這些視頻通過模擬馬斯克的聲音和動(dòng)作，誤導(dǎo)投資者。這類深度偽造視頻成本低廉、傳播迅速，使得詐騙者能夠輕易擴(kuò)大其欺詐活動(dòng)的影響范圍，導(dǎo)致許多受害者因?yàn)樘摷俚耐顿Y機(jī)會(huì)而損失巨額資金。隨著深度偽造技術(shù)的風(fēng)險(xiǎn)日益凸顯，其每年可能導(dǎo)致的欺詐損失預(yù)計(jì)將達(dá)數(shù)十億美元。
以下為翻譯全文：
現(xiàn)年 82 歲的退休老人史蒂夫?比徹姆（Steve Beauchamp）本希望為家人增加一些收入，他把希望寄托在了埃隆?馬斯克（Elon Musk）身上。去年底，比徹姆偶然看到一段視頻，視頻中馬斯克似乎在推薦一個(gè)承諾能迅速獲利的激進(jìn)投資方案。受此啟發(fā)，比徹姆迅速聯(lián)系了該視頻背后的公司，并以 248 美元開設(shè)了一個(gè)投資賬戶。然而，在接下來幾周里，他逐步增加投資，最終從退休金賬戶中動(dòng)用了超過 69 萬(wàn)美元。
但不久后，這些錢就消失了，落入了一群利用人工智能進(jìn)行新型數(shù)字詐騙的騙子之手。這些詐騙者巧妙地篡改了一段馬斯克的真實(shí)采訪，利用 AI 技術(shù)替換了他的聲音，并微調(diào)了他的口型，以匹配他們?yōu)檫@個(gè)數(shù)字人編寫的新劇本。對(duì)于一般觀眾來說，這種操作幾乎是察覺不出的。
比徹姆回憶起那段視頻，感慨地說：“視頻中的他，形象鮮明，一眼就能認(rèn)出是馬斯克。至于是否是 AI 讓他說出那些話，我現(xiàn)在也無法確定。但就視頻畫面而言，如果有人要我從人群中識(shí)別他，我肯定能指出來。”
馬斯克成深度造假?？?/strong>
近幾個(gè)月來，互聯(lián)網(wǎng)上充斥著數(shù)以千計(jì)的這種由 AI 驅(qū)動(dòng)的視頻，這些被稱為“深度造假”（Deepfake）的視頻中，偽造的馬斯克形象誤導(dǎo)了眾多潛在投資者。據(jù)德勤估計(jì)，這類由 AI 支持的深度造假每年可能導(dǎo)致數(shù)十億美元的欺詐損失。
這些視頻制作成本極低，幾分鐘內(nèi)即可完成，并通過社交媒體進(jìn)行推廣，包括在 Facebook 上的付費(fèi)廣告，大大擴(kuò)展了它們的影響范圍。監(jiān)測(cè)和檢測(cè)深度造假視頻的公司 Sensity 聯(lián)合創(chuàng)始人兼威脅情報(bào)主管弗朗西斯科?卡沃利（Francesco Cavalli）對(duì)此發(fā)出警告：“這可能是有史以來最大規(guī)模的深度造假騙局。”
這些視頻常常惟妙惟肖，精準(zhǔn)捕捉了馬斯克標(biāo)志性的不連貫語(yǔ)調(diào)和南非口音。詐騙者通常從一段真實(shí)的視頻入手，比如《華爾街日?qǐng)?bào)》采訪，造假視頻中保留了記者的聲音，這增加了視頻的真實(shí)性。
利用先進(jìn)的對(duì)口型技術(shù)，詐騙者調(diào)整了馬斯克的嘴部動(dòng)作，使其與他們偽造的臺(tái)詞完美匹配。他們還使用了聲音克隆工具添加 AI 聲音，這些工具能從樣本片段中復(fù)制任何聲音。最終的廣告中，可能還包括偽造的圖形，模仿新聞機(jī)構(gòu)的樣式，這對(duì)一般網(wǎng)絡(luò)用戶來說可能頗具說服力。
根據(jù) Sensity 的分析，馬斯克是這些視頻中最常見的發(fā)言人。在近 2000 個(gè)分析樣本中，特別是從去年底開始，他出現(xiàn)在了近四分之一的深度造假詐騙中。在那些以加密貨幣為主題的視頻中，這一比例甚至高達(dá)近 90%。深度造假?gòu)V告還常常使用沃倫?巴菲特（Warren Buffett）這樣的著名投資者和亞馬遜創(chuàng)始人杰夫?貝索斯（Jeff Bezos）等商界大佬。
盡管很難準(zhǔn)確統(tǒng)計(jì)出有多少深度造假在網(wǎng)絡(luò)上流傳，但通過搜索 Facebook 廣告庫(kù)中常用的與詐騙相關(guān)的語(yǔ)言，發(fā)現(xiàn)了數(shù)十萬(wàn)條廣告，其中許多包括了深度造假視頻。雖然 Facebook 已刪除了許多違反政策的內(nèi)容，并禁用了相關(guān)賬戶，但仍有其他視頻留在了網(wǎng)絡(luò)上，而且似乎每天都有更多視頻出現(xiàn)。
YouTube 也充斥著這些偽造的內(nèi)容，這些視頻常常帶有“直播”標(biāo)簽。事實(shí)上，這些都是預(yù)先錄制的深度造假視頻。在 YouTube 上搜索關(guān)鍵詞如“埃隆比特幣會(huì)議（Elon Bitcoin conference）”，可以看到數(shù)十個(gè)偽裝成直播的視頻，視頻中的深度造假馬斯克正在兜售加密貨幣詐騙，誤導(dǎo)性極強(qiáng)。
在美國(guó)前總統(tǒng)唐納德?特朗普（Donald J. Trump）在比特幣會(huì)議上發(fā)言后，YouTube 上迅速出現(xiàn)了數(shù)十個(gè)標(biāo)注為“直播”標(biāo)簽的視頻，展示了一段預(yù)先錄制的深度偽造馬斯克視頻，聲稱會(huì)加倍返還發(fā)送到他賬戶的任何加密貨幣。這些視頻雖然吸引了大量觀眾，其中一些視頻的觀看次數(shù)達(dá)到了數(shù)十萬(wàn)。但 YouTube 表示，詐騙者可能使用網(wǎng)絡(luò)水軍人為夸大觀看次數(shù)。
據(jù)非營(yíng)利消費(fèi)者權(quán)益組織 Better Business Bureau 的報(bào)告，一名得克薩斯州居民在 2023 年 2 月通過 YouTube 上一段所謂的“直播”視頻，看到了偽裝成馬斯克的詐騙信息，因此損失了價(jià)值 36,000 美元的比特幣。該居民表示：“我轉(zhuǎn)了比特幣，但什么都沒收到?！?/p>
FB 與 YouTube 成重災(zāi)區(qū)
YouTube 在一份聲明中表示，僅在今年 1 月至 3 月期間，平臺(tái)就移除了超過 1570 萬(wàn)個(gè)頻道和超過 820 萬(wàn)個(gè)視頻，這些內(nèi)容大多因違反其反垃圾郵件政策而被刪除。
鑒于虛假?gòu)V告泛濫，澳大利亞億萬(wàn)富翁安德魯?福雷斯特（Andrew Forrest）對(duì) Facebook 的母公司 Meta 提起了民事訴訟，指責(zé)其在廣告業(yè)務(wù)中的疏忽，聲稱這些廣告業(yè)務(wù)誤導(dǎo)了無辜用戶進(jìn)行錯(cuò)誤投資。據(jù)悉，福雷斯特本人的視頻也被用于制作深度造假?gòu)V告。
Meta 公司回應(yīng)稱，正在訓(xùn)練自動(dòng)檢測(cè)系統(tǒng)以識(shí)別平臺(tái)上的欺詐活動(dòng)，但也坦言這是一場(chǎng)復(fù)雜的貓鼠游戲，因?yàn)橘Y金充足的詐騙團(tuán)伙不斷改變策略以逃避檢測(cè)。YouTube 則重申其禁止欺詐和視頻篡改的政策，并在今年 3 月要求所有創(chuàng)作者在使用 AI 創(chuàng)造逼真內(nèi)容時(shí)必須進(jìn)行明確披露。
網(wǎng)絡(luò)上充斥著大量相關(guān)的詐騙報(bào)告，其中不少人損失了他們的畢生積蓄。香港證券及期貨事務(wù)監(jiān)察委員會(huì)在 5 月份發(fā)出了關(guān)于涉及馬斯克的詐騙活動(dòng)的警告。今年早些時(shí)候，美國(guó)聯(lián)邦貿(mào)易委員會(huì)和聯(lián)邦調(diào)查局也警告美國(guó)民眾，AI 驅(qū)動(dòng)的網(wǎng)絡(luò)犯罪和深度偽造詐騙正日益增多。
FBI 在一份電郵聲明中強(qiáng)調(diào)：“犯罪分子正在利用 AI 作為力量的放大器，使網(wǎng)絡(luò)攻擊和其他犯罪活動(dòng)更加有效且難以被偵測(cè)?！?/p>
數(shù)字詐騙與互聯(lián)網(wǎng)的發(fā)展同步增長(zhǎng)。但隨著去年復(fù)雜的 AI 工具向公眾開放，以馬斯克為特征的新一波深度偽造浪潮應(yīng)運(yùn)而生，這些工具讓普通人能夠克隆名人聲音或精確操控視頻，吸引了色情行業(yè)、表情包制作者和越來越多的詐騙團(tuán)伙的注意。
網(wǎng)絡(luò)安全研究實(shí)驗(yàn)室 CTM Insights 的創(chuàng)始人盧?斯坦伯格（Lou Steinberg）指出：“現(xiàn)在的情況正在發(fā)生變化，因?yàn)橛薪M織的犯罪團(tuán)伙已經(jīng)發(fā)現(xiàn)，通過這種方式可以賺錢。”他預(yù)計(jì)，我們將看到越來越多的這種假冒企圖，目的就是騙錢?！?/p>
盡管 AI 生成的視頻并不完美，例如馬斯克的聲音在一些視頻中可能聽起來機(jī)械化，而且他的口型并不總是與臺(tái)詞不匹配。但專家警告稱，這些視頻對(duì)于一些詐騙目標(biāo)來說已經(jīng)足夠令人信服，并且隨著時(shí)間的推移技術(shù)正在不斷改進(jìn)。
根據(jù) Sensity 的卡沃利的說法，這些視頻的制作成本非常低，大約只需 10 美元，而且大多數(shù)詐騙者使用一系列免費(fèi)或便宜的工具在不到 10 分鐘內(nèi)拼湊出假視頻。他們主要位于印度、俄羅斯和東歐。
“它有效，”卡沃利說?！耙虼耍麄儗⒗^續(xù)擴(kuò)大這一活動(dòng)，跨越國(guó)界，用多種語(yǔ)言翻譯，并不斷向更多目標(biāo)傳播詐騙?！?/p>
老年人成為完美目標(biāo)
這類騙局常以高回報(bào)的人工智能投資軟件為幌子，初期誘使受害者投入小額資金 —— 如 250 美元。隨后，通過夸大投資的增值效果，逐漸誘導(dǎo)他們?cè)黾油顿Y金額。
特斯拉股東大會(huì)的一條視頻也被偽造，視頻中馬斯克解釋了一個(gè)由 AI 驅(qū)動(dòng)的自動(dòng)交易產(chǎn)品，聲稱能夠每天翻倍投資回報(bào)。
研究加密貨幣社區(qū)的專家指出，馬斯克擁有一群獨(dú)特的全球粉絲群體，這些粉絲多為保守派、反體制人士和加密貨幣愛好者，他們經(jīng)常尋找賺取財(cái)富的非傳統(tǒng)途徑，這使得他們成為這些騙局的理想目標(biāo)。
“肯定有一群人相信財(cái)富的秘密被隱藏了起來，”研究加密貨幣社區(qū)的研究者莫莉?懷特（Molly White）說。她指出，部分人群總幻想掌握財(cái)富秘密，認(rèn)為一旦找到便能一夜暴富。
詐騙者尤愛針對(duì)年長(zhǎng)互聯(lián)網(wǎng)用戶，他們雖對(duì)加密貨幣、人工智能或馬斯克有所了解，但不熟悉安全投資方式的年長(zhǎng)互聯(lián)網(wǎng)用戶。
“老年人一直是詐騙者眼中的一塊肥肉，這一現(xiàn)象甚至早于社交媒體的興起，”加州大學(xué)戴維斯分校的科學(xué)技術(shù)研究教授芬恩?布倫頓（Finn Brunton）說，他是加密市場(chǎng)的專家。
比徹姆是一名鰥夫，曾在加拿大安大略省的一家公司擔(dān)任銷售代表，直到 75 歲退休。2023 年加入 Facebook 后不久，他就遇到了廣告詐騙。盡管他記得曾在 CNN 的直播中看到過馬斯克，但 CNN 的一位女發(fā)言人表示，馬斯克已多年未在該臺(tái)接受過采訪。
去年 12 月，比徹姆向一家名為 Magna-FX 的公司匯款 27,216 美元，據(jù)他和該公司的電子郵件交流顯示，Magna-FX 使他相信他的投資價(jià)值在增加。期間，一名銷售代理甚至使用軟件遠(yuǎn)程控制了比徹姆的電腦，擅自轉(zhuǎn)移資金。
當(dāng)比徹姆嘗試提取資金時(shí)，他被告知需要支付 3,500 美元的管理費(fèi)和另外 3,500 美元的傭金。他付了這些錢，但后來又被告知需要支付 20,000 美元才能釋放約 20 萬(wàn)美元的資金部分。盡管他已經(jīng)用盡了退休儲(chǔ)蓄，刷爆了信用卡，動(dòng)用了信用額度并向妹妹借款投資和支付費(fèi)用，詐騙者還是要求他支付更多費(fèi)用。此時(shí)，比徹姆已意識(shí)到問題的嚴(yán)重性，于是聯(lián)系了警方。
Magna-FX 的大部分痕跡已經(jīng)從網(wǎng)絡(luò)上消失，包括公司網(wǎng)站、電話號(hào)碼以及比徹姆曾與之交流的代理使用的電子郵件地址。一家名稱和服務(wù)相似的公司對(duì)評(píng)論請(qǐng)求未作回應(yīng)。
比徹姆在提交給 Better Business Bureau 的報(bào)告中表示：“此刻，我愿接受所有指責(zé)與嘲諷，作為對(duì)自己輕信的懲罰?！?/p>
他表示，目前正依靠一個(gè)未向詐騙者透露的較小退休賬戶及養(yǎng)老金來維持生計(jì)，而他原本計(jì)劃使用這些積蓄環(huán)游世界。比徹姆已經(jīng)向當(dāng)?shù)鼐綀?bào)案，但案件進(jìn)展緩慢。
“由于到處都是欺詐案件，我的案件被放在了隊(duì)列中，”他說，“我沒有抱太大希望?！?/p>
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。