Deepfake 假頭像又又又來了。這一次扎堆“轟炸”的平臺，換成了領(lǐng)英。下面這個小姐姐，是不是乍看之下感覺普普通通，還很有親和力。
但仔細端詳一番，就會不斷發(fā)現(xiàn)破綻。比如，怎么只帶了一個耳釘？背景畫面為什么高糊？有的頭發(fā)還融入了背景？
而這樣的頭像不只是個例，是一堆！上千個的那種，全都是由 AI 合成。
從男到女、從老到少、不同膚色、發(fā)色…… 基本上能涵蓋的都涵蓋了。他們成群出沒的目的只有一個，為其背后的公司撒網(wǎng)式拉銷售業(yè)務(wù)，一旦找到有意向客戶，就轉(zhuǎn)接到真人銷售。沒想到，繼充當(dāng)水軍、冒充員工發(fā)送惡意軟件后……AI 換臉再次被拐上了違法犯罪的道路。目前，領(lǐng)英已經(jīng)將這些賬戶關(guān)閉。
斯坦福研究人員偶然發(fā)現(xiàn)
起底這次造假事件的，是兩位斯坦福大學(xué)的互聯(lián)網(wǎng)研究人員。在偶然間收到一條推銷信息后，Renée DiResta 發(fā)現(xiàn)這個“銷售”有點不一般。除了耳環(huán)只戴了一邊、頭發(fā)邊界模糊等問題，它還有著 GAN 生成人臉的最大特征：眼球剛好位于圖片的中央。這個特征幾乎可以驗證出所有用 GAN 生成的人臉。比如有人做過實驗，將 20 張假臉調(diào)成 50% 的透明度后疊加在一起，他們的眼球可以完全重合。
然后，DiResta 就和同事 Josh Goldstein 一起，對整個領(lǐng)英平臺進行了一番調(diào)查。結(jié)果發(fā)現(xiàn)，超過 1000 個領(lǐng)英賬戶都在用 AI 生成的人臉做頭像。這些假賬戶來自 70 多個公司，干的事情都差不多 —— 假裝公司的銷售給潛在客戶發(fā)送消息，然后再讓有購買意向的客戶與真人銷售建立聯(lián)系。由此一來，公司就不用花費大量資金在人力上，同時還能擴大自己的業(yè)務(wù)范圍。而且，這套機制甚至已經(jīng)形成了一套產(chǎn)業(yè)鏈。
也就是說，專門有公司來提供假人臉頭像、假資料信息、并發(fā)送推銷消息。
比如這家總部位于印度的公司 LIA。在他們的訂閱服務(wù)中明確寫道：只要用戶每月支付 300 美元，就能擁有一個 AI 生成的人臉形象。它會有著與真人高相似度的長相，每天可以向 20 個人發(fā)送銷售信息等功能。
不過，目前這個網(wǎng)站已經(jīng)“查無此站”，除了 logo 以外搜索不到任何信息。
Deepfake 人臉，真的很難區(qū)分
其實這也不是 AI 換臉第一次被拐上違法犯罪的道路了…… 就在不久前，谷歌報告了一起黑客發(fā)送惡意攻擊軟件的事件。通過盜取員工真實信息數(shù)據(jù)、再用 AI 生成假臉，黑客們用偽造的領(lǐng)英賬戶發(fā)出了大量釣魚郵件。
此前，亞馬遜被曝光出騷操作，用 Deepfake 在推特上給自己造了一批水軍，試圖扭轉(zhuǎn)輿論風(fēng)向。
國內(nèi)我們最熟知的“換臉靳東詐騙”事件，用到的也是類似技術(shù)。顯然，真假難辨的 Deepfake 還充斥在我們的生活中。而另一邊，今年發(fā)表在 PNAS 上的一項研究表示：AI 生成的人臉和真實人臉沒有區(qū)別，甚至更值得信賴。人們只有 50% 的概率分辨出一個人像是否由 AI 生成。這個概率，和二選一亂蒙幾乎沒有區(qū)別……
在此，研究人員也匯總了一些 Deepfake 人臉的特征來供大家區(qū)分。
背景通常非常模糊；
領(lǐng)口銜接不自然，衣服線條看起來不規(guī)整；
牙齒和嘴唇的邊界模糊；
頭發(fā)絲會融入背景；
圖像光線不自然；
雙眼在圖像中完全居中。
參考鏈接：
[1]https://www.theregister.com/2022/03/28/ai_fake_linkedin_faces/
[2]https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles
[3]https://twitter.com/shannonpareil/status/1508110373261434882
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。