細(xì)思恐極，PimEyes 盜用逝者照片來訓(xùn)練面部識(shí)別算法

原文標(biāo)題：《細(xì)思恐極！PimEyes 竟盜用死人照片來訓(xùn)練面部識(shí)別算法》

當(dāng)你在 PimEyes 上搜索自己的照片時(shí)，你會(huì)看到很多自己的照片，還有跟你長(zhǎng)得很像的人。

不過，這個(gè)工具在進(jìn)行算法訓(xùn)練的時(shí)候，使用的并不是用戶授權(quán)的照片，而是基于整個(gè)網(wǎng)絡(luò)各個(gè)平臺(tái)的照片，來進(jìn)行面部識(shí)別。

所以在你的照片被識(shí)別后，搜索結(jié)果往往會(huì)出現(xiàn)很多色情網(wǎng)站的視頻的截圖。

不僅如此，該網(wǎng)站還被爆料，他們一直在盜用死人照片來訓(xùn)練算法。

死人都不放過

有些人死了，但是還在網(wǎng)絡(luò)上活著。

Cher Scarlett 是一名軟件工程師、作家。

最近，她在突然發(fā)現(xiàn)，她母親的照片，早已去世的曾曾曾祖母，18 年去世的妹妹的照片都出現(xiàn)在 PimEyes 上。

所有這些照片都是她和她的家人自己上傳到 Ancestry 上的圖片，但是該網(wǎng)站在其條款和條件中公開禁止「從 Ancestry 的網(wǎng)站和服務(wù)中搜刮數(shù)據(jù)，包括照片，以及轉(zhuǎn)售、復(fù)制或發(fā)布在 Ancestry 上發(fā)現(xiàn)的任何內(nèi)容或信息?！?/p>

因此 Scarlett 感到很震驚，這不僅僅違反了 Ancestry 的政策，而且她已故的家人，根本不可能允許 PimEyes 用這些照片訓(xùn)練他們的算法。

這聽起來和 Henrietta Lacks 的故事有異曲同工之妙：「不死的海拉細(xì)胞」幾十年來一直被用于醫(yī)學(xué)研究和藥物開發(fā)，是幾百年來最重要的醫(yī)學(xué)成就之一。但這些研究其實(shí)是在她死后，未經(jīng)她允許所開展的。在她不知情的情況下，她的細(xì)胞被研究、繁殖，甚至她的基因序列也被公開。

雖然這兩件事不是同一個(gè)量級(jí)的。但是，你的隱私在你死后應(yīng)該得到尊重，這一點(diǎn)是成立的。

數(shù)字權(quán)利組織 Access Now 的高級(jí)政策分析師 Daniel Leufer 稱：「雖然 PimEyes 說不會(huì)直接通過他們的網(wǎng)站給你這個(gè)人的身份，但你點(diǎn)擊一下就可以看到圖片網(wǎng)站，網(wǎng)站上面確實(shí)就會(huì)出現(xiàn)你的名字?！?/p>

「一想到大家的照片，會(huì)在不知情或不同意的情況下，被錄入面部識(shí)別軟件的生物識(shí)別器中，我相信應(yīng)該不會(huì)有人再輕易往社交媒體上發(fā)照片了?！筍carlett 感到很失望。

「我妹妹已經(jīng)死了，她也不能起死回生，去讓這個(gè)網(wǎng)站撤下自己的照片。」

Scarlett 這么說是有典故的，因?yàn)樗熬透@個(gè)網(wǎng)站掰扯過撤照片的事情。

想要?jiǎng)h掉自己的裸照，每個(gè)月充 29.9 刀

當(dāng) Scarlett 剛聽說這個(gè)軟件的時(shí)候，她想測(cè)試一下和自己長(zhǎng)得像的名人有誰。

她發(fā)現(xiàn)自己和 Britney Spears 和 Kate Hudson 有些相似。

結(jié)果翻著翻著，她突然翻到自己十幾年前被性虐待的照片。

這段經(jīng)歷曾經(jīng)讓 Scarlett 一度想要輕生，以至于身體的自我保護(hù)機(jī)制讓她選擇性忘記這段經(jīng)歷。

突然在網(wǎng)站上看到這些照片，她簡(jiǎn)直崩潰了，但是她強(qiáng)撐著去調(diào)查這些照片的來源，發(fā)現(xiàn)竟然需要支付會(huì)員費(fèi)用才可以查看。

支付了以后，她發(fā)現(xiàn)這些照片竟然分散在各個(gè)色情網(wǎng)站上，甚至還專門帶著有「虐待」、「窒息」、「折磨」等關(guān)鍵詞。

更要命的是，要想清除這些照片，不僅要提交申請(qǐng)驗(yàn)明正身，還要每個(gè)月充值 29.9 美元，訂閱他們的服務(wù)，這樣才可以管理搜索結(jié)果，隱藏一些不想被看到的照片。

Scarlett 一直嘗試清除照片，但是根本沒辦法永久消除。甚至她還買了 PimEyes 最貴的服務(wù)，都無濟(jì)于事。網(wǎng)站表示，只要照片后續(xù)出現(xiàn)在了其它網(wǎng)站的鏈接上，還是會(huì)被顯示出來。

也就是說，每個(gè)月訂閱還不夠，還得成為尊貴的年會(huì)員，定期申請(qǐng)清理，而且每次審批的時(shí)間也很久。

直至去年 4 月，她在社交網(wǎng)絡(luò)上分享了自己的經(jīng)歷，PimEyes 才真正批準(zhǔn)了她的刪除請(qǐng)求。

調(diào)查你，跟蹤你

PimEyes 可以從一個(gè)人的照片，找到他們?cè)诰W(wǎng)上發(fā)表的其他照片，包括發(fā)在網(wǎng)站、博客、新聞、文章上各處的圖片。

通過拼湊與這些圖片相關(guān)的信息，博客、文章的文字，工作網(wǎng)站上的照片，想要調(diào)查你的人就可以找出你的工作地點(diǎn)，跟蹤到你的住所。

「任何人的圖像，包括兒童，都可以在互聯(lián)網(wǎng)上被搜索和追蹤?！?/p>

被家暴、虐待的人會(huì)喪失安全感；跟蹤者也會(huì)悄無聲息地做你甩不掉的尾巴，像恐怖電影一樣；在求職、升學(xué)時(shí)，該工具也可以調(diào)出你所有的背景信息，讓你毫無秘密可言。

人們指責(zé) PimEyes 非法處理數(shù)百萬英國公民的生物識(shí)別數(shù)據(jù)，認(rèn)為它沒有獲得圖像被分析者的許可。

然而，面對(duì)違反數(shù)據(jù)保護(hù)法的指控，PimEyes 卻狡辯說，從技術(shù)上講，不可能知道他們分析了多少英國公民的臉，相當(dāng)于間接承認(rèn)了沒有獲得授權(quán)這一點(diǎn)。

盡管平臺(tái)稱，PimEyes 不是為了監(jiān)視別人而設(shè)計(jì)的，但是該平臺(tái)并沒有相關(guān)的措施來進(jìn)行監(jiān)管，因此人們也對(duì)于該平臺(tái)的數(shù)據(jù)安全部門表示很不信任。

不過 PimEyes 在努力扭轉(zhuǎn)風(fēng)評(píng)。他們說這個(gè)工具可以幫助記者調(diào)查，而且表示他們正在與德國、意大利、英國和美國的執(zhí)法部門和人道主義組織進(jìn)行合作，協(xié)助打擊兒童犯罪、人口販運(yùn)和恐怖主義。

而且，就像上文提到的，在事情被揪出水面之后，PimEyes 終于開始幫助女性，開始審批、刪除未經(jīng)同意的裸露色情照片，也算是積點(diǎn)德了。

參考資料：

• https://futurism.com/pictures-dead-people-facial-recognition-algorithm

• https://www.bbc.com/news/technology-63544169

本文來自微信公眾號(hào)：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。