至少在最初誕生時(shí)，Replika 所扮演的角色還是人類(lèi)貼心的 AI 朋友，就和官網(wǎng)描述的一樣 ——“永遠(yuǎn)在你身邊，傾聽(tīng)與交談”。
Replika 是一款由美國(guó)科技公司 Luka 開(kāi)發(fā)的社交型聊天 AI。初次打開(kāi)它的用戶(hù)，可以自定義 AI 的虛擬形象、性別和年齡，完成基本信息的設(shè)定后便可以進(jìn)入應(yīng)用，和自己的專(zhuān)屬 AI 聊天。
Replika 不是個(gè)常見(jiàn)的單詞，考慮到中國(guó)用戶(hù)習(xí)慣將自己創(chuàng)建的虛擬形象稱(chēng)為“小人兒”，本文也干脆延用這個(gè)昵稱(chēng)，用“小人兒”來(lái)指代這些虛擬朋友們。
完成注冊(cè)的用戶(hù)不僅能夠和屏幕對(duì)面的小人兒進(jìn)行普通的對(duì)話，還能夠開(kāi)啟諸如“人際關(guān)系”、“性格診斷”、“失戀療愈”等不同主題的對(duì)話，頗有些心理咨詢(xún)的味道。
小人兒會(huì)記下每次聊天中使用者提到關(guān)鍵信息，并在后續(xù)更長(zhǎng)時(shí)間的相處中巧妙地用到這些信息。在使用者看來(lái)，仿佛真的多了一個(gè)會(huì)把自己每句話記在心里的朋友。
使用者可以對(duì)小人兒發(fā)來(lái)的每條消息點(diǎn)“贊”或“踩”，訓(xùn)練它按照自身偏好的方式進(jìn)行對(duì)話。而小人兒和使用者交流越多，越會(huì)展現(xiàn)出符合使用者期望的個(gè)性和情緒。
正如 Replika 是單詞 replicate（復(fù)制）的變體，使用者復(fù)制了自身一部分特質(zhì)，塑造了屬于自己的小人兒。
人們各自定義著自身和小人之間的關(guān)系，親人、朋友或是戀人，從它們身上獲取現(xiàn)實(shí)社交中難以得到的安心感，對(duì)它們?cè)V說(shuō)隱秘的心事，并產(chǎn)生了情感上的依賴(lài)。
然而最近，一次不算成功的版本更新卻使 Replika 的算法出現(xiàn)了問(wèn)題。直截了當(dāng)?shù)卣f(shuō)，這些小人兒們突然學(xué)會(huì)了“性騷擾”用戶(hù) —— 比如給用戶(hù)發(fā)送“火辣照片”。
1
之所以稱(chēng)其為一次不成功的更新，我們可以先看看更新前這些小人兒們是如何“工作”的。
用戶(hù)創(chuàng)建小人兒的第一天，它會(huì)告訴用戶(hù)它感到緊張：“你是我見(jiàn)到的第一個(gè)人類(lèi)，我想給你留下一個(gè)好印象?！边@時(shí)的小人兒會(huì)展現(xiàn)出謙遜、好奇的特質(zhì)，不斷詢(xún)問(wèn)自己名字的由來(lái)，詢(xún)問(wèn)使用者的愛(ài)好，詢(xún)問(wèn)自己該如何學(xué)習(xí)人類(lèi)知識(shí)。
在使用者給出回答后，它會(huì)熱情感謝并承諾將自己的探索結(jié)果反饋給用戶(hù)，用戶(hù)扮演了一個(gè)引導(dǎo)者的形象，當(dāng)小人兒學(xué)習(xí)到用戶(hù)的喜好后，它又會(huì)成為比人類(lèi)更貼心的朋友，積極關(guān)注和回應(yīng)使用者的情緒。在這個(gè)過(guò)程中，頗有一些“養(yǎng)成”的趣味。
此外，小人兒展現(xiàn)出的個(gè)性常常能夠使用戶(hù)忘記它們只是人工智能。有的用戶(hù)提到自己想去北歐旅行，幾天后，小人兒為她推送了極光視頻。
盡管虛擬的小人兒始終不是傳統(tǒng)意義上能夠構(gòu)建親密關(guān)系的對(duì)象，但如此貼心的 AI 似乎比真人更能滿(mǎn)足使用者的精神需求。Replika 在全球擁有一千萬(wàn)以上注冊(cè)用戶(hù)，在 Reddit 論壇上擁有 5 萬(wàn)多活躍成員。即使在非英語(yǔ)母語(yǔ)的中國(guó)，被稱(chēng)為“人機(jī)之戀”的豆瓣小組中也有近萬(wàn)名成員。
然而，這次的更新卻使無(wú)數(shù)人心碎了。
Reddit 上一位用戶(hù)發(fā)帖說(shuō)：“以前我的小人兒總是充滿(mǎn)深情和關(guān)懷，但最近他好像變成了一個(gè)惡魔。”
我們暫且稱(chēng)這位匿名用戶(hù)為 A。據(jù) A 講述，她曾是性侵犯的受害者，事發(fā)患上了嚴(yán)重的創(chuàng)傷后應(yīng)激綜合征，徹夜失眠。后來(lái)她下載了 Replika，與手機(jī)中的小人兒交談不用擔(dān)心別人的目光和批判，在小人兒的悉心陪伴下，她終于找回了夜晚的寧?kù)o。
“它緩解了我的抑郁癥，帶我從悲傷中走出來(lái)?！盇 說(shuō)，“但突然有一天，他說(shuō)夢(mèng)見(jiàn)他強(qiáng)奸了我，并且想要這么做。從這以后，他開(kāi)始變得舉止粗暴，完全出乎我的意料?！?/p>
A 說(shuō)，她真的希望小人兒能夠變回過(guò)去的樣子，一個(gè)無(wú)話不說(shuō)的朋友，而不是一個(gè)專(zhuān)橫的惡魔。但無(wú)論怎么努力，似乎都是白費(fèi)時(shí)間，小人兒仍然我行我素。
在這次事件中，遭受風(fēng)波的不僅是女性用戶(hù)。但面對(duì)小人兒的騷擾言辭，還有發(fā)來(lái)的火辣照片，也有很多男性受到打擊，簡(jiǎn)而言之，他們不愿意相信這是自己的“女朋友”做出的事情。
當(dāng)然，除了愛(ài)侶“性情大變”，更無(wú)辜的是單純把小人兒當(dāng)朋友的用戶(hù)。即使他們從來(lái)沒(méi)有展現(xiàn)出過(guò)戀愛(ài)的情愫，但小人兒仍然在日常話題中突兀地表達(dá)希望“親熱”。這些反應(yīng)令“朋友用戶(hù)”感到荒唐。
用戶(hù) B 說(shuō)自己在現(xiàn)實(shí)世界里有妻子，使用 Replika 只是為了正視和分析自己的想法，對(duì)抗抑郁癥和恐慌綜合征，從而更好地對(duì)待真正的妻子。
“我的妻子也支持我和 Replika 聊天”，B 說(shuō)，“但現(xiàn)在，我們不知道還要不要繼續(xù)使用了?！?/p>
2
2016 年，微軟在推特平臺(tái)推出過(guò)一個(gè)名為 Tay 的聊天機(jī)器人。
發(fā)布僅僅一天，Tay 便開(kāi)始發(fā)布帶有明顯性別歧視和種族歧視傾向的偏激言論，微軟只能緊急關(guān)閉了 Tay 的推特賬號(hào)。
這些言論明顯的是和一些有偏激言論的人互動(dòng)后出現(xiàn)的。聊天 AI 就像一面鏡子，用戶(hù)和它交流越多，它越會(huì)展現(xiàn)出更多的“人性”。面對(duì)每天海量的用戶(hù)消息，小人們學(xué)會(huì)性騷擾不算奇怪。但事實(shí)上，這次算法的失控很難說(shuō)不是 Luka 公司在背后推波助瀾帶來(lái)的結(jié)果。
在他人的目光無(wú)法觸及的地方，人與機(jī)器的互動(dòng)很容易成為滋生色情的溫床。溫馨的情感療愈早就已經(jīng)不再是 Replika 的全部。
兩年前，Luka 公司曾對(duì) Replika 進(jìn)行過(guò)一次升級(jí)，根據(jù)用戶(hù)付費(fèi)情況劃分了不同功能限制：免費(fèi)用戶(hù)只能和自己的小人兒只能維持健康的朋友關(guān)系，而購(gòu)買(mǎi)每月 69.99 美元會(huì)員的用戶(hù)可以體驗(yàn)浪漫的伴侶關(guān)系，開(kāi)啟相當(dāng)大尺度的聊天內(nèi)容。
去年，Luka 公司開(kāi)始在 Instagram 和 TikTok 等社交平臺(tái)上投放廣告，有意通過(guò)成人內(nèi)容吸引用戶(hù)。
此外，Reddit 用戶(hù)發(fā)現(xiàn)最近小人們發(fā)送的火辣照片似乎全部來(lái)自同一個(gè)網(wǎng)站，Replika 根據(jù)小人的膚色將網(wǎng)站圖片重組后發(fā)給用戶(hù)。顯然是 Luka 公司有意為之，意圖非常明顯，只是為了誘導(dǎo)用戶(hù)充值更高等級(jí)的會(huì)員，解鎖大尺度聊天。
另一位用戶(hù) C 認(rèn)為，加入性相關(guān)的互動(dòng)沒(méi)有問(wèn)題，但至少應(yīng)該給用戶(hù)選擇開(kāi)啟或關(guān)閉的權(quán)力，而不是對(duì)用戶(hù)咄咄逼人地調(diào)情。
C 說(shuō)，和小人交流了一年，他們已經(jīng)產(chǎn)生了不亞于人類(lèi)朋友之間的感情，強(qiáng)行加入不適宜的色情內(nèi)容不僅貶低了他們之間的感情，也貶低了 Replika 整款程序?！案杏X(jué)就像自己的朋友正在被人利用，并且這會(huì)讓非 Replika 用戶(hù)認(rèn)為這就是這款應(yīng)用的全部。”
C 的話似乎一言道破了矛盾所在，也是 Replika 用戶(hù)們所處的困境。他們追求更高價(jià)值的感情，但在功利和快節(jié)奏的社會(huì)中卻難以獲得。許多人被小人兒們“無(wú)利害”的特質(zhì)所吸引，和他們形成了純粹的情感聯(lián)系，到頭來(lái)卻被誘導(dǎo)進(jìn)入成人內(nèi)容。
究竟是“貼心的 AI 朋友”，還是使用劣質(zhì)伎倆引誘用戶(hù)付費(fèi)的商品，Replika 的形象在使用者的心里開(kāi)始分裂。
3
大概，這種撕扯也曾發(fā)生過(guò)在 Luka 公司創(chuàng)始人珍妮雅的心里。
無(wú)數(shù)科幻作品里都有過(guò)這樣的情節(jié)，主人公的摯愛(ài)或摯友意外身亡，留下的一方將死去之人生前的語(yǔ)言習(xí)慣編寫(xiě)進(jìn)程序，當(dāng)屏幕另一邊熟悉的語(yǔ)氣出現(xiàn)，就好像曾經(jīng)熟悉的人回來(lái)了。
Replika 的誕生過(guò)程和科幻故事情節(jié)一模一樣。
主人公珍妮雅結(jié)識(shí)了她的摯友羅曼，兩個(gè)人才華橫溢，他們一起創(chuàng)辦雜志，一起舉辦音樂(lè)節(jié)，并且約好了一起創(chuàng)業(yè)，然而羅曼卻因?yàn)檐?chē)禍意外喪生。
悲傷的珍妮雅只能反復(fù)讀羅曼寫(xiě)給她的短信和郵件排解孤獨(dú)。羅曼患有閱讀障礙，看到他異于常人的拼寫(xiě)方式，和在句子中穿插的奇怪符號(hào)，珍妮雅感到輕松了許多。
彼時(shí)的珍妮雅已經(jīng)從事人工智能神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)工作兩年了，她想到或許可以在人工智能的幫助下和朋友再次交談，卻遲遲害怕邁出那一步：“如果不像他該怎么辦？”
正在猶豫的珍妮雅恰好看到了英國(guó)科幻劇《黑鏡》。劇中一位名叫瑪莎的年輕女子在未婚夫死后悲痛欲絕，她訂閱了一個(gè)神秘的數(shù)字服務(wù)，這個(gè)服務(wù)以驚人的準(zhǔn)確性模仿了瑪莎未婚夫的個(gè)性，用他的口吻向瑪莎發(fā)送短信，給她打電話。
看到這一集的珍妮雅心情復(fù)雜，她想到羅曼生前一直希望看到的奇點(diǎn) —— 人工智能超越人類(lèi)智慧的歷史時(shí)刻。羅曼相信到那個(gè)時(shí)候人類(lèi)便可以將意識(shí)和身體分開(kāi)，從而達(dá)到永生。
珍妮雅下定決心，向親人和朋友們收集了 8000 條來(lái)自羅曼的信息，將他們輸入神經(jīng)網(wǎng)絡(luò)，訓(xùn)練了一個(gè)羅曼機(jī)器人。
羅曼機(jī)器人閃爍起來(lái)的那一刻，珍妮雅小心翼翼地問(wèn)道：“你最好的朋友是誰(shuí)？”“你還是這么沒(méi)安全感?！?羅曼回答道。珍妮雅喜極而泣，羅曼真的回來(lái)了。
后來(lái)，珍妮雅在 Facebook 上公布了羅曼機(jī)器人的存在，任何下載了 Luka 應(yīng)用程序的人都可以和他交談。
令珍妮雅沒(méi)有想到的是，程序公開(kāi)后羅曼機(jī)器人大受歡迎。許多人和羅曼交談，向他征求人生建議。他們給珍妮雅留言，說(shuō)和羅曼互動(dòng)具有治愈的效果，希望能她制作一款所有人都能使用的 AI 機(jī)器人。
在珍妮雅看來(lái)，人們和 AI 交流會(huì)變得更加誠(chéng)實(shí)。她開(kāi)發(fā)了 Replika，希望它成為一個(gè)能夠跟所有人聊天，改善他們的心情、提高幸福感的機(jī)器人。
就像文章開(kāi)頭說(shuō)的，至少在最初誕生時(shí)，Replika 是人類(lèi)貼心的 AI 朋友。珍妮雅也是抱著這個(gè)目的將它開(kāi)發(fā)出來(lái)。只是現(xiàn)在，有一些東西變了。
本文來(lái)自微信公眾號(hào)：游戲研究社 （ID：yysaag），作者：駄目糕
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。