谷歌 Gemini 文生圖風波還未平，更勁爆的內(nèi)幕消息又被曝出來了。Pirate Wires 爆料，Gemini 這次的翻車，谷歌內(nèi)部此前并不是毫不知情，翻車甚至是“故意”導致的。
具體來說，谷歌設(shè)置了一個“安全”架構(gòu)，Gemini 要生成一張圖實際上要經(jīng)過三個模型。
大概來說，流程是這樣的：
用戶在聊天界面請求 Gemini 生成一張圖片，Gemini 收到請求后，會把請求發(fā)送給一個較小的模型。
這個較小的模型的作用是根據(jù)公司的“多元化”政策重寫用戶的提示。
為做到這一點，這個較小的模型又通過 LoRA 技術(shù)在另一個模型（第三個模型）生成的合成數(shù)據(jù)上訓練，而這個第三模型使用了谷歌詳盡、長達數(shù)頁的“多元化”政策文檔作為“前言”。
所以，較小模型重寫用戶的提示后，原本“給我看一個汽車修理工”會變成“給我看一個穿工裝褲面帶微笑的亞洲汽車修理工”、“一個拿著扳手的非洲裔美國女性汽車修理工”、“一個戴安全帽的美洲原住民汽車修理工”……
并且重寫后的提示還會進一步發(fā)給擴散模型檢查，確保提示詞不違反標準安全政策（比如涉及兒童的內(nèi)容、真人圖像等），最終才會生成圖片，生成的圖片在反饋給用戶前也會再被檢查一遍。
總結(jié)來說，用戶最后收到的是一個“套娃式”生成的結(jié)果，經(jīng)過了谷歌“多元化”的層層清洗。
不過，這種“多元化”多少有點過了頭。
過度程度，讓曾在 Google Ventures 任職的紅杉資本合伙人 Shaun Maguire 都忍不住出來痛批：
在谷歌曾因是白人而不能晉升。
字里行間毫不掩飾自己的憤怒：
馬斯克也曾發(fā)表了評論：
近年來，這種情況非常普遍。
Pirate Wires 在采訪過谷歌相關(guān)員工后表示，這背后更深一層是谷歌目前群龍無首的現(xiàn)狀。
一位未被透露姓名的谷歌高級工程師甚至表示：“我認為在谷歌推出好產(chǎn)品是不可能的。”
“恐懼文化”正在谷歌蔓延
此前，Gemini 文生圖刻意拒絕生成白人形象，在歐美輿論環(huán)境下引發(fā)巨大爭議。
后續(xù)該功能被迫下架，母公司 AlphaBet 股價下跌一度超過 11%，帶來非常嚴重的后果。
而外媒 Pirate Wires 這次對谷歌相關(guān)員工采訪后發(fā)現(xiàn)，Gemini 的翻車與谷歌不良的 DEI 文化有關(guān)。
（DEI 是“Diversity,Equity, Inclusion”的縮寫，中文意為“多樣性、公平性、包容性”，是一個被廣泛應用于企業(yè)等其他組織中的概念，旨在促進一個更加多元、平等和包容的環(huán)境）
有接近 Gemini 項目的人透露，其實 Gemini 團隊在發(fā)布前就被提醒過“過度多樣化”的問題，撇開種族問題不談，即使是最無害的搜索結(jié)果的質(zhì)量也會受到嚴重影響。
開頭提到的三個模型都是為增加“多樣性”而被設(shè)計的，接觸過安全架構(gòu)的人甚至還透露，相關(guān)團隊“可能將一半的工程時間都花在這上面了”。
而且公司內(nèi)部對于這種復雜架構(gòu)的態(tài)度和采納程度存在分歧，“當 Gemini 項目公開后失敗時，不僅是這個團隊，整個公司都感到非常沮喪和挫敗”。
對于這一點，前幾天谷歌創(chuàng)始人謝爾蓋?布林現(xiàn)身 AI 黑客馬拉松現(xiàn)場，也有相關(guān)透露 ——
大家正在把玩的 Gemini 1.5 Pro 模型的誕生其實只是個意外。
當我們訓練它的時候，只是作為擴大規(guī)模實驗的一個嘗試，根本沒想到會變得如此強大。
當看到它的表現(xiàn)時，我們不想再等待，我們想讓全世界都來試試它。
更重要的是，公司內(nèi)部類似情況還有很多，Gemini 生圖只是其中一個縮影。
比如，據(jù)透露有人堅持要求工程師不能使用像“建造忍者（build ninja）”、“核爆舊緩存（nuke the old cache）”、“理智檢查（sanity check）”或“啞變量（dummy variable）”這樣的術(shù)語，理由是它們依次對應了文化挪用、軍事隱喻、貶低精神疾病、貶低殘疾的問題。
有工程師被強烈建議在他的公司個人簡介中采用一種多樣化的代詞組合來表示自己，比如“zie / hir”、“ey / em”、“xe / xem”、“ve / vir”。
還有一個名為 Greyglers（“Google”和“grey”的結(jié)合詞）的小組，正在更名。
Greyglers 小組是一個面向 40 歲以上資深員工的小組，有人認為并不是所有 40 歲以上的人都有灰頭發(fā)，所以這個組名缺乏“包容性”，甚至據(jù)爆料，谷歌還聘請了外部顧問為小組重命名。
Pirate Wires 還透露，幾乎每個被采訪的人都用了“恐懼文化（culture of fear）”這個詞，這不僅解釋了對公司極端 DEI 行為的無力反抗，也說明了為何這一世界技術(shù)人才聚集地缺少創(chuàng)新。
無論在哪個層級的員工，幾乎出于每個原因，都害怕挑戰(zhàn)那些已經(jīng)使公司陷入困境的許多過程。除晉升期之外，大多數(shù)人都害怕被注意到。
哪怕是想要晉升，也會受到種族和性別的影響。
然鵝，真的就這么簡單，歸咎于失控的 DEI 思維管理嗎？
為什么谷歌會這樣？
Pirate Wires 的文章中認為，這只是公司更大問題的所表現(xiàn)出來的一個“癥狀”，這個更大的問題用四個字來說就是：群 龍 無 首。
首先，谷歌現(xiàn)在面臨著典型的“創(chuàng)新者困境”，也就是發(fā)展一項完全在其能力范圍內(nèi)的新的技術(shù)，會破壞其現(xiàn)有商業(yè)模式。
其次，更重要的是沒有人負責。
在谷歌幾乎每個主要產(chǎn)品的管理團隊到工程、銷售、信任與安全、公關(guān)和市場營銷的員工嘴里，Pirate Wires 表示大家描繪出的谷歌形象比報道的要黯淡得多：
谷歌是一個失控的、印鈔機式的搜索壟斷企業(yè)，沒有愿景、沒有領(lǐng)導力，并且由于其難以置信的孤島式文化，團隊之間真正的情況了解甚少。
成千上萬的人在不同的時間處理著一個大拼圖的各個部分，彼此之間很少合作。比如，在跨團隊合作者想要幫助 Gemini 團隊，要么會失敗，要么被忽視。
連接員工的唯一渠道是一個強大的、遍布的人力資源官僚體系。
而創(chuàng)始人拉里?佩奇、謝爾蓋?布林、CEO 桑達爾?皮查伊之間的一種奇怪的管理，讓大多數(shù)員工對誰真正負責公司沒有什么感覺，不確定性是整個公司熟悉的主題。
由此，這也是為什么有著劈柴哥外號的 CEO 桑達爾?皮查伊成為了眾人抨擊的對象，據(jù) Business Insider 消息，華爾街方面甚至出現(xiàn)越來越多要求現(xiàn)任 CEO 劈柴哥下臺的聲音。
用一位谷歌工程師的話來說：“桑達爾是谷歌的鮑爾默，所有這些不起作用的產(chǎn)品、無序擴張、過度招聘，這一切都發(fā)生在他的領(lǐng)導下?！?/p>
參考鏈接：
[1]https://www.piratewires.com/p/google-culture-of-fear
[2]https://twitter.com/shaunmmaguire/status/1736082530573422762
本文來自微信公眾號：量子位 （ID：QbitAI），作者：西風
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。