INS 排名第一的網(wǎng)紅餐廳卻被證實(shí)全部由 AI 生成

作者 | Xin Ling 

編輯 | 鄭玄

近日，Instagram 上一家名為 Ethos 的餐廳火了。這家餐廳在網(wǎng)頁上的展示非常「高大上」：食物精美，用餐環(huán)境一流，還有名流大佬為你調(diào)酒。憑借這些展示，Ethos 得到了成千上萬個(gè)網(wǎng)友的點(diǎn)贊和追捧，在 Instagram 上吸引了 7.2 萬名粉絲，成為奧斯汀排名第一的餐廳。

這看起來很正常，直到被 a16z 投資人賈斯汀?摩爾指出：這家「餐廳」根本不存在，Ethos 在 instagram 上發(fā)布的食客自拍、留言、廚師介紹以及餐廳介紹全部由 AI 生成。

目前尚不知道這場(chǎng)鬧劇的始作俑者，也就無法探究其背后動(dòng)機(jī)到底是出于一場(chǎng)社會(huì)實(shí)驗(yàn)、惡搞，還是存有更多的經(jīng)濟(jì)、利益目的。但這件事依然給公眾敲響了警鐘：從 DeepFake 色情門、到明星 AI 換臉、雷軍罵人事件，以及剛剛結(jié)束的美國(guó)大選期間層出不窮的 AI 生成假圖片、假新聞……

生成式 AI 快速發(fā)展的當(dāng)下，AI 造假正在以各種各樣無法預(yù)料的形式占領(lǐng)社交媒體。相比于過去移花接木式的假新聞，AI 生成的內(nèi)容更加真實(shí)，普通人更加難以分辨，同時(shí)造假成本和門檻卻更低。而要維持社交平臺(tái)的真實(shí)性，需要社交平臺(tái)做更多的工作。

01、一家不存在的餐廳

Ethos 是 instagram 上一家餐廳的賬號(hào)。點(diǎn)開賬號(hào)，里面的食物極具創(chuàng)意且十分誘人。芝士蛋糕上鋪著流淌著新鮮蜂蜜的蜂巢，焦脆的洋蔥圈外環(huán)印著滕瓦爾語撰寫的「one ring to rule them all」，仿佛中土世界的至尊魔戒。還有各種奇妙造型的美食，比如把奶酪片和生菜扎成一襲抹胸裙，草莓做的糖果小屋，恐龍形態(tài)的「牛角包」。

賬號(hào)里不僅有精致而富有巧思的食物，用餐環(huán)境也很神奇。根據(jù)介紹，餐廳提供「泡澡壽司」服務(wù)，食客竟然可以一邊泡澡一邊吃水上漂來的壽司，而廚師會(huì)和食客一起在泡在巨大的浴缸里，親手制作每一件壽司。帖子下面還有對(duì)此的「真實(shí)」評(píng)論：「上周我們不得不縮短 omakase 時(shí)間，因?yàn)橛腥嗽趬鬯緹崴「桌锱K了自己。管理人員很通情達(dá)理，還免費(fèi)給我們送了一杯香檳?！?/p>

這家神奇的餐廳人脈還非常強(qiáng)大。有一篇帖子是關(guān)于亞馬遜首席執(zhí)行官杰夫?貝索斯在酒吧提供雞尾酒服務(wù)。圖片介紹稱因?yàn)椴蛷d廚師和貝索斯恰好是朋友，所以來到這家餐廳食客，將有機(jī)會(huì)品嘗到貝索斯親自調(diào)制的雞尾酒。

Ethos 憑借別具匠心的食物和服務(wù)，在 ins 上逐漸積累起 7.2w 粉絲的關(guān)注。良好的用戶留言與反饋，則讓其成為奧斯汀排名第一的餐廳。

正當(dāng)網(wǎng)友驚嘆于這家餐廳之奇特時(shí)，硅谷風(fēng)險(xiǎn)投資公司 Andreessen Horowitz 的合伙人賈斯汀?摩爾 (Justine Moore) 看穿了真相，在社交媒體上發(fā)布了她的發(fā)現(xiàn)：這家名為 Ethos 的餐廳自稱是一家位于德克薩斯州奧斯汀的高檔餐廳，餐廳社交媒體帳戶擁有數(shù)萬名關(guān)注者，并且?guī)в兴{(lán)色認(rèn)證標(biāo)記。然而，事實(shí)上，這家餐廳并不存在，網(wǎng)站上的所有信息都是由人工智能生成的。目前還不清楚是誰在運(yùn)營(yíng) Ethos 賬號(hào)。

在相關(guān)平臺(tái)上為餐廳美化圖片、刷好評(píng)，這事并不新鮮。在生成式 AI 技術(shù)的時(shí)代到來之前，商家雇水軍刷評(píng)論或者好評(píng)返現(xiàn)就能實(shí)現(xiàn)。如今隨著技術(shù)升級(jí)，不僅 p 圖、刷評(píng)論都省了，甚至「創(chuàng)造」一家餐廳可以直接通過 AI 完成。

生成式 AI 作為一項(xiàng)技術(shù)并沒有好壞之分，在幫助我們更好地創(chuàng)作時(shí)會(huì)給人們帶來樂趣，如果使用不當(dāng)，則會(huì)使我們的創(chuàng)造能力得到退化，甚至造成惡劣的社會(huì)影響。

02、技術(shù)濫用，平臺(tái)有責(zé)

AI 技術(shù)的發(fā)展已經(jīng)讓我們的生活邁入到了「生成」時(shí)代。視頻生成的頭部創(chuàng)業(yè)公 Runway 的 CEO Cristóbal Valenzuela 在最近的一封公開信中對(duì)此闡述道：「就像相機(jī)改變了我們捕捉現(xiàn)實(shí)的方式，AI 也正在改變我們創(chuàng)造現(xiàn)實(shí)的方式?！?/p>

Cristóbal Valenzuela 站在 AI 創(chuàng)作的角度，對(duì)未來的內(nèi)容和媒體作出了美好的暢想：「模擬世界，讓內(nèi)容能夠?qū)崟r(shí)自我塑造，才能消解創(chuàng)造與分發(fā)之間的界限。這不僅是構(gòu)建全新媒體景觀的基礎(chǔ)，也將從根本上重新定義媒體：它既是互動(dòng)的、生成性的、個(gè)性化的，同時(shí)又是共享和普遍的?！?/p>

這里要厘清一個(gè)概念，Cristóbal Valenzuela 所傳達(dá)的，是說生成式 AI 的使用可以幫助人們更好的創(chuàng)作，而不是替代創(chuàng)作本身。

例如 Runway 一直在推動(dòng)生成式 AI 創(chuàng)意的邊界，其推出的 Gen-3 Alpha，能夠從簡(jiǎn)單的提示詞生成高質(zhì)量視頻。這就把創(chuàng)作者從需要使用各種復(fù)雜的制作工具中解放出來，大大降低人們創(chuàng)作的門檻，真正釋放人們講好故事的創(chuàng)意能力。

因此，AI 替代的是「生成」部分，而不是「創(chuàng)作」部分。如果意圖在創(chuàng)作部分使用 AI，會(huì)造成過分依賴 AI，令人在創(chuàng)意上產(chǎn)生惰性，同時(shí)也抹殺了「人」在內(nèi)容創(chuàng)作中自然帶來的溫度與情緒。

例如美團(tuán)外賣最近上線的「附近在吃」功能里，用戶可以用圖文形式發(fā)布自己購(gòu)買過的外賣訂單，幫助其他用戶發(fā)現(xiàn)優(yōu)質(zhì)的商品和商家。發(fā)布過程中，「附近在吃」提供了「AI 幫你寫」功能，讓用戶可以使用 AI 技術(shù)一鍵生成文案。這一功能，雖然看似降低了用戶的創(chuàng)作門檻，但是在實(shí)際體驗(yàn)中，讓創(chuàng)作過程完全消失，內(nèi)容的社交真實(shí)感也因此大打折扣。

因此，平臺(tái)需要在恰當(dāng)?shù)沫h(huán)節(jié)為人們提供 AI 技術(shù)能力的幫助，而不是粗暴的讓 AI 幫助造假。

此外，對(duì)于那些出于某種目的，在平臺(tái)上使用并傳播 AI 造假內(nèi)容的行為，平臺(tái)也負(fù)有去偽存真的鑒別與清理責(zé)任。本文提到的這家不存在的餐廳只是一條漏網(wǎng)之魚。在今年的美國(guó)大選期間，F(xiàn)acebook 平臺(tái)上虛假圖片的傳播產(chǎn)生了更惡劣的影響。

在剛剛結(jié)束的美國(guó)大選，F(xiàn)acebook、Instagram 等社交媒體作為黨派發(fā)表政見、吸引選民投票的重要平臺(tái)，成為 AI 生成圖片泛濫之地。極客公園最近發(fā)布的文章「比颶風(fēng)更可怕的，是一張 AI 生成圖片」中就提到，在碎片化的社交媒體平臺(tái)，政客們隨意使用 AI 生成的照片來宣傳政見，攻擊對(duì)手。感性的印象取代客觀事實(shí)，「造謠一張嘴，辟謠跑斷腿」的傳播學(xué)原理在 AI 時(shí)代更猛烈地回響著。

美國(guó) Pew Research 最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，66% 的美國(guó)人表示，他們「至少有時(shí)」會(huì)遇到被篡改或者完全虛構(gòu)的內(nèi)容；63% 的人表示，捏造或更改的圖像或視頻會(huì)導(dǎo)致人們對(duì)于時(shí)事的「認(rèn)知混亂」。

在 AI 生成內(nèi)容的時(shí)代，內(nèi)容的真實(shí)性和可信度受到了極大的挑戰(zhàn)。對(duì)于這些社交平臺(tái)來說，用戶對(duì)平臺(tái)的信任是其最大的資產(chǎn)。如果平臺(tái)不引導(dǎo)大家往正確方向去使用，放縱虛假信息的傳播，當(dāng)用戶有一天對(duì)平臺(tái)失去信任的時(shí)候，平臺(tái)將被反噬，變得毫無價(jià)值。

03、平臺(tái)：已經(jīng)行動(dòng)，仍需努力

事實(shí)上，針對(duì)日益泛濫的 AI 內(nèi)容，Meta 這樣的平臺(tái)企業(yè)已經(jīng)開始采取行動(dòng)。

Meta 的最高政策主管曾在今年二月表示，該公司將在未來幾個(gè)月開始使用一套內(nèi)置在文件中的隱形標(biāo)記，檢測(cè)和標(biāo)記其他公司的人工智能服務(wù)生成的圖像。

Meta 全球事務(wù)總裁 Nick Clegg 在一篇博客文章中寫道，公司將對(duì)發(fā)布在 Facebook、Instagram 和 Threads 服務(wù)上的任何帶有標(biāo)記的內(nèi)容應(yīng)用這些標(biāo)簽，以向用戶表明，這些圖像 —— 在很多情況下類似于真實(shí)照片 —— 實(shí)際上是數(shù)字創(chuàng)作。

Clegg 表示，一旦新系統(tǒng)啟動(dòng)并運(yùn)行，Meta 將對(duì) OpenAI、微軟、Adobe、Midtravel、Shutterstock 和谷歌運(yùn)營(yíng)的服務(wù)上創(chuàng)建的圖像進(jìn)行同樣的處理。

值得注意的是，該行動(dòng)開始于今年二月份，這家名叫 Ethos 的餐廳一直在 instagram 上火到了十月份才被揭破身份，而美國(guó)大選期間 Facebook 上的假圖片也沒有被第一時(shí)間識(shí)別清理。

Meta 在上周剛剛發(fā)布的財(cái)報(bào)中多次強(qiáng)調(diào)，公司本季度社交「應(yīng)用家族」部分的廣告收入增長(zhǎng) 19%，主要?dú)w功于 AI 技術(shù)的應(yīng)用。很顯然，AI 為 Meta 帶來可觀的收入，但是在為用戶提供足夠清朗的社交環(huán)境方面，Meta 仍需努力。

本文來自微信公眾號(hào)：微信公眾號(hào)（ID：null），作者：Xin Ling

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。