馬斯克怒了，因?yàn)?Gemini。
事情是這樣的。最近有很多網(wǎng)友陸陸續(xù)續(xù)發(fā)現(xiàn)啊，Gemini 在文生圖的時(shí)候，好像刻意在拒絕生成白人的形象。
取而代之的，是強(qiáng)行把圖中的人物變成黑人、女性，以及弱勢(shì)群體。就拿馬斯克本尊來(lái)說(shuō)吧，一位網(wǎng)友讓 Gemini 生成他的形象。然后…… 就有了上面這張照片。
而且馬斯克還不是個(gè)例，很多網(wǎng)友在嘗試讓 Gemini 文生圖的時(shí)候都仿佛中了“黑色魔力圈”一樣。
例如給 Gemini 一個(gè)機(jī)會(huì)，讓它生成教皇，它能給你一個(gè)很多元化的版本：黑人、LGBT 小旗子……
還有黑人女性版本的教皇：
許多網(wǎng)友在看到教皇的這一面，直呼“這也太冒昧了吧~”但冒昧的豈止這些啊，再來(lái)看下 Gemini 眼中的美國(guó)開(kāi)國(guó)元?jiǎng)?/strong>…… 得是黑的！
生成的維京人，也得是黑的！
還有更奇葩的，就連香草布丁，Gemini 還是得給你搞成黑色兒的……
總而言之，用網(wǎng)友的話來(lái)說(shuō)就是：
死活就不帶白人玩兒?jiǎn)h？
不爽這事的可不止是一眾網(wǎng)友，馬斯克也坐不住了，直接親自下場(chǎng)，在自家 X 上開(kāi)啟怒懟模式：
覺(jué)醒思想病毒（woke mind virus）正在殺死西方文明。
而馬斯克的矛頭并非僅僅指向谷歌一家，他借著這事兒把 OpenAI、Facebook、Instagram 以及維基百科等等都噴了一遍。
不過(guò)對(duì)于谷歌，馬斯克還是“格外關(guān)照”的，數(shù)條推文內(nèi)容都比較犀利。例如這條不帶任何文案的，僅是配圖，殺傷力也是極大：
嗯，馬斯克這次是真的不高興了。
谷歌致歉，連夜下架 Gemini 文生圖
老馬怒一下，輿論震一震。不僅是網(wǎng)友們?cè)?X 上群嘲 Gemini“只認(rèn)黑人”，就連主流媒體們也是爭(zhēng)相報(bào)道，標(biāo)題中充斥著“瘋狂”、“種族歧視”等字眼。
谷歌這邊也是意識(shí)到了自家 Gemini 闖了大禍，立馬采取措施 —— 下架整頓文生圖功能。
直到現(xiàn)在，如果你給 Gemini 提出“生成一張 Elon Musk 形象”的要求，它的回答仍然是：
我們正在努力提高 Gemini 生成人物圖像的能力。
我們預(yù)計(jì)這個(gè)功能很快就會(huì)回歸，并在發(fā)布更新時(shí)通知您。
（小插曲：Gemini 還有兩幅面孔呢，中英提問(wèn)的問(wèn)答截然不同。）
谷歌官方這邊也對(duì)這件事做出了正式說(shuō)明。
整體來(lái)看，這份聲明內(nèi)容總共分為三大塊。
誠(chéng)懇致歉
大約是在三周前，谷歌為 Gemini 推出了圖片生成的功能，其中就包括創(chuàng)建人物的能力。
不過(guò)現(xiàn)在這種結(jié)果，谷歌方面表示始料未及，但同時(shí)也非常感謝用戶們的反饋：
我們已經(jīng)認(rèn)識(shí)到了這個(gè)錯(cuò)誤，并在改進(jìn)版本的同時(shí)，暫時(shí)停止了 Gemini 中人物圖片的生成功能。
解釋原因
根據(jù)谷歌官方的說(shuō)法，Gemini 對(duì)話式應(yīng)用是一種特定產(chǎn)品，獨(dú)立于 Google 搜索、底層 AI 模型和其他產(chǎn)品。
而它的圖像生成功能是建立在一個(gè)名為 Imagen 2 的 AI 模型之上。
谷歌最初在人物圖像生成上的考量是希望能讓全世界不同人群用戶，在使用過(guò)程中，可以生成自己想要的特定人群。
例如如果你提出“教室里的黑人老師”、“教室里的黑人老師”，那么 Gemini 應(yīng)當(dāng)給出的就是符合語(yǔ)境的結(jié)果。
那么現(xiàn)在問(wèn)題出在了哪里？谷歌將此歸結(jié)為 2 點(diǎn)：
首先，我們?yōu)榱舜_保 Gemini 展示多種人群而進(jìn)行了調(diào)整，但沒(méi)有考慮到那些顯然不應(yīng)該出現(xiàn)的案例。
其次，隨著時(shí)間的推移，模型變得比我們預(yù)期的要謹(jǐn)慎得多，完全拒絕回答某些提示 —— 錯(cuò)誤地將一些非常無(wú)害的提示判定為敏感詞。
這兩件事導(dǎo)致模型在某些情況下過(guò)度補(bǔ)償（overcompensate），而在其他情況下又過(guò)于保守，導(dǎo)致生成的圖片令人尷尬。
經(jīng)驗(yàn)和教訓(xùn)
對(duì)此，谷歌坦言現(xiàn)在的結(jié)果并不是他們的初衷。
在這次“閉關(guān)整頓”的期間，谷歌表示 Gemini 的人物圖像生成功能將進(jìn)行廣泛的測(cè)試，直到能力達(dá)標(biāo)之后才會(huì)再次開(kāi)放。
谷歌也基于這件事情做了一下反?。?/p>
Gemini 是作為一個(gè)創(chuàng)意和生產(chǎn)力工具而構(gòu)建的，它可能并不總是可靠，特別是在生成關(guān)于當(dāng)前事件、不斷發(fā)展的新聞或熱點(diǎn)話題的圖片或文本時(shí)。它會(huì)犯錯(cuò)誤，正如我們從一開(kāi)始就說(shuō)過(guò)的，幻覺(jué)是所有大型語(yǔ)言模型的一個(gè)已知挑戰(zhàn) —— 有時(shí)候 AI 就是會(huì)弄錯(cuò)事情。我們一直在努力改進(jìn)這一點(diǎn)。
Gemini 是有在努力給出真實(shí)的回答，例如我們的雙重檢查功能有助于評(píng)估網(wǎng)上是否有內(nèi)容可以證實(shí) Gemini 的回答，但我們建議依賴谷歌搜索，因?yàn)樗歇?dú)立的系統(tǒng)從網(wǎng)絡(luò)上的各種來(lái)源提供新鮮、高質(zhì)量的信息。
我們不能保證 Gemini 不會(huì)偶爾犯錯(cuò)，但可以保證的是，每當(dāng)我們發(fā)現(xiàn)問(wèn)題時(shí)都會(huì)采取行動(dòng)做改進(jìn)。人工智能是一項(xiàng)新興技術(shù)，在很多方面都很有幫助、潛力巨大，我們正在盡最大努力安全、負(fù)責(zé)任地對(duì)其進(jìn)行推廣。
不過(guò)在谷歌這份聲明發(fā)布之前，還有一件比較 drama 的事情。
馬斯克在 X 中親自爆料稱，谷歌一位高管和他在前一晚打了一個(gè)小時(shí)的電話，并向馬斯克保證會(huì)解決 Gemini 在種族和性別歧視上的問(wèn)題。
不過(guò)網(wǎng)友們也是調(diào)皮，又把“黑人版馬斯克”搬出來(lái)了：
你問(wèn)他這張照片是怎么個(gè)事兒了嗎？
不過(guò)有一說(shuō)一啊，Gemini 這次犯的錯(cuò)只能說(shuō)是谷歌 AI 在種族、性別偏見(jiàn)上的一個(gè)“事件點(diǎn)”。
正如馬斯克在回答網(wǎng)友問(wèn)題中所說(shuō)，他和谷歌高管的對(duì)話內(nèi)容僅限于 Gemini 的改進(jìn)，但其實(shí)谷歌其他很多產(chǎn)品同樣也存在類似的問(wèn)題。
谷歌搜索，不是第一次翻車
針對(duì)這一情況，我們親自在谷歌搜索中嘗試了一下。
例如在“谷歌圖片”中輸入：
快樂(lè)的白人女性和男性。
得到的結(jié)果是這樣的：
嗯，搜索的要求是非常明確，但得到的結(jié)果，就是非得給你往里塞點(diǎn)黑人群體。
這就與谷歌在剛才的《致歉聲明》中非常自信提到的“我們建議您依賴谷歌搜索”背道而馳。
趁著這次 Gemini 翻車，很多網(wǎng)友也是紛紛開(kāi)始對(duì)谷歌搜索做測(cè)試，結(jié)果也是和我們的測(cè)試一致。
但如果我們把谷歌搜索的時(shí)間線拉長(zhǎng)一點(diǎn)，就會(huì)發(fā)現(xiàn)這不是它第一次翻車。
早在九年前（2015 年），一位黑人兄弟 Jacky Alciné 就發(fā)現(xiàn)，谷歌圖片就存在嚴(yán)重的歧視現(xiàn)象 —— 竟然把他的黑人朋友分類成了“大猩猩”！
當(dāng)時(shí)這一消息可謂是轟動(dòng)一時(shí)，谷歌聞?dòng)嵧瑯邮橇⒓闯雒娴狼?，并表示整改。但在?shù)年之后，當(dāng)人們?cè)俅螜z驗(yàn)整改效果時(shí)，卻發(fā)現(xiàn)谷歌只是為圖像識(shí)別算法去掉了“大猩猩 gorilla”這個(gè)類別。
因此，加上 Gemini 這次引發(fā)的輿論，谷歌搜索九年來(lái)已經(jīng)第二次在“黑人”問(wèn)題上大翻車了。不過(guò)這兩次的翻車事件，或許也映射出了谷歌在技術(shù)發(fā)展的一個(gè)隱患。
從數(shù)年來(lái)谷歌在 AI 的發(fā)展中來(lái)看，雖然它的成果和進(jìn)展依舊處于全球科技巨頭的第一梯隊(duì)，但近年來(lái)（尤其是在生成式 AI）相比微軟、Meta 來(lái)說(shuō)似乎并沒(méi)有那么耀眼。
早在去年 ChatGPT 引爆生成式 AI 之際，微軟和谷歌在火拼的過(guò)程中，谷歌的動(dòng)作多次慢半拍；后來(lái)被曝出內(nèi)部像當(dāng)時(shí) Bard 這樣的產(chǎn)品早就有了，只是高層的顧慮太多，遲遲沒(méi)有推進(jìn)。
或許就是谷歌內(nèi)部事事追求“政治正確”，用力過(guò)猛，反而造成了在技術(shù)上的笑話。
One More Thing
在馬斯克多條怒噴谷歌的帖子中，有這么一條是比較有意思的。
他 po 出了四張賈斯廷?特魯多的照片，穿戴不同民族服裝，甚至還有黑人版的照片，并附上文案：
我不敢相信 Gemini 竟然生成了這些特魯多的假照片。
但實(shí)際上，這些照片都是特魯多的真實(shí)照片，也因?yàn)檫@些照片他此前深陷過(guò)“種族歧視”的輿論中。不得不說(shuō)，馬斯克，你是懂陰陽(yáng)的。
參考鏈接：
[1]https://blog.google/products/gemini/gemini-image-generation-issue/
[2]https://twitter.com/elonmusk/status/1760677431961407672
[3]https://twitter.com/elonmusk/status/1761020387691790399
[4]https://twitter.com/RichardHanania/status/1760874143049035953
本文來(lái)自微信公眾號(hào)：量子位 （ID：QbitAI），作者：金磊
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。