AI 大模型開源英雄，因 LLaMA 泄露遭國會(huì)質(zhì)問，小扎：習(xí)慣了

小扎最近又?jǐn)偵洗笫铝恕?/p>

兩位國會(huì)議員 Richard Blumenthal（國會(huì)隱私，技術(shù)和法律委員會(huì)主席）和 Josh Hawley（國會(huì)隱私，技術(shù)和法律委員會(huì)成員）給小扎寫了一封措辭嚴(yán)厲的質(zhì)詢函。

兩議員寫信嚴(yán)厲質(zhì)問小扎關(guān)于 LLaMa 的泄露事件

要求小扎針對(duì)之前 LLaMa 模型在 4chan 被泄露這一事件，在 15 號(hào)之前回答幾個(gè)關(guān)鍵問題。

其中最嚴(yán)重的是這三個(gè)：

• 在發(fā)布 LLaMa 之前，Meta 有沒有對(duì)泄露等情況做過風(fēng)險(xiǎn)評(píng)估？

• 在發(fā)布 LLaMa 之后，Meta 有沒有采取任何措施防止模型泄露，或者減少模型泄露之后的危害？

• Meta 是否使用了用戶的數(shù)據(jù)來訓(xùn)練模型或者進(jìn)行 AI 技術(shù)的研究？

整封信措辭非常強(qiáng)硬，通篇都在說因?yàn)?LLaMa 的泄露可能會(huì)引發(fā)的犯罪，網(wǎng)絡(luò)欺詐和各種負(fù)面情況。

信中提到：

「我們對(duì) Meta 的 AI 模型的泄漏感到擔(dān)憂，非常擔(dān)心 Meta AI (LLaMA) 及其在垃圾信息、欺詐、惡意軟件、侵犯隱私，騷擾以及其他不當(dāng)行為中的被濫用的可能性和造成的傷害」

「選擇以這種不受限制和不負(fù)責(zé)任的方式分發(fā) LLaMA 引發(fā)了重要而復(fù)雜的問題：何時(shí)以及如何公開發(fā)布復(fù)雜的 AI 模型是合適的」

仿佛就是在暗示以后如果出大事，你小扎必須吃不了兜著走。

而且信里對(duì)于 OpenAI 和它的產(chǎn)品 ChatGPT，卻塑造成了一個(gè)「?jìng)ス庹沟恼嫘蜗蟆?/p>

「OpenAI 的 ChatGPT 會(huì)根據(jù)其道德準(zhǔn)則拒絕該請(qǐng)求。相比之下，LLaMA 會(huì)提供所要求的信件，以及涉及自殘、犯罪和反猶太主義的其他答案。」

這位 Richard Blumenthal 就是前段時(shí)間 Sam Altman 在國會(huì)接受質(zhì)詢時(shí)最重要的提問者和主持人。

當(dāng)時(shí)他對(duì) Altman 的態(tài)度可是相當(dāng)?shù)暮皖亹偵?/p>

再相比之前小扎的質(zhì)詢會(huì)議上，他不但打斷小扎的發(fā)言，還針鋒相對(duì)地舉了牌子，上面寫了小扎道歉的集錦，質(zhì)問他為啥只會(huì)認(rèn)錯(cuò)卻不知悔改。

同樣是科技領(lǐng)袖，咋待遇差別就那么大呢？

明明自己的模型開源給 AI 研究社區(qū)使用，推動(dòng)了 AI 的對(duì)齊和透明度等安全技術(shù)的發(fā)展，還要被國會(huì)的老頭老太太們天天盯著質(zhì)詢。

競(jìng)爭(zhēng)對(duì)手的開源和訓(xùn)練數(shù)據(jù)的合法性問題卻被監(jiān)管無視，還被奉為座上賓。

再加上質(zhì)詢信中對(duì) OpenAI 和 Meta 的拉踩，看得出來監(jiān)管層對(duì)于小扎和 Meta 真的意見很大。

技術(shù)落后可以通過努力來追趕，被監(jiān)管層戴著有色眼鏡挑刺，那以后真的就麻煩大了。

此時(shí)小扎心里應(yīng)該是一萬個(gè) LLaMA 大模型跑過。

AI 開源英雄 —— 扎克伯格

但就發(fā)布 LLaMa 這件事情上，小扎和 Meta 卻是真的得到了行業(yè)和公眾的一致認(rèn)可。

在質(zhì)詢信主要作者 Richard Blumenthal 自己的推特上，他轉(zhuǎn)發(fā)了自己寫的信，還對(duì)自己的行為進(jìn)行了一番義正詞嚴(yán)地?cái)⑹觥?/p>

但是下面的回復(fù)卻幾乎被網(wǎng)友一邊倒的質(zhì)疑甚至是攻擊。

網(wǎng)友反應(yīng)

開源的代碼是受第一修正案保護(hù)的。只要開源 Meta 沒辦法阻止對(duì)于公眾使用，所以你提出這些問題讓我懷疑你動(dòng)機(jī)。

到底是誰給了你權(quán)力認(rèn)為 AI 是的危險(xiǎn)的？人民對(duì)于你阻止 AI 技術(shù)開源和免費(fèi)這事情投過票嗎？作為人民的代表你已經(jīng)越界了！

Meta 開源了，不涉及商業(yè)利益，那么「Commerce Clause」就管不了啦！它被 Meta 之外的人泄露你去找 Meta 有什么用呢？

議員，你真的沒有權(quán)力監(jiān)管 AI 的發(fā)展，現(xiàn)在沒有以后也沒有。而且對(duì)于一個(gè)全球所有人都能接入公眾網(wǎng)絡(luò)服務(wù)，怎么可能被完全管控起來呢？

請(qǐng)用你的立法權(quán)力保證你的議員工作不會(huì)被取代。

希望你以后被大家選下去。

LLaMa 只是一個(gè)注腳。阿聯(lián)酋的 Falcon 直接商業(yè)開源了，之后會(huì)有更多的項(xiàng)目基于這些開源的模型。所以請(qǐng)不要為了追求一些不可能達(dá)到的目的而抑制美國的創(chuàng)新能力和關(guān)鍵的開源技術(shù)。

沒有必要責(zé)怪 FB, 這樣會(huì)讓本想開源的公司被迫閉源，這樣我們追求的技術(shù)透明度就更加難以實(shí)現(xiàn)了。這是非常危險(xiǎn)的情況。

讓 Meta 承擔(dān)對(duì)于 AI 濫用的后果是沒有意義的，Meta 沒有能力也沒有責(zé)任承擔(dān)這個(gè)，就像不能要求槍械，錘子和棒球棍的廠家來承擔(dān)這些東西濫用的后果是一個(gè)道理。

在他的這條推文下面的 110 個(gè)回復(fù)中，幾乎找不到支持他寫這封信的留言。

看得出來，留言的大部分網(wǎng)友都在幫小扎辯解說 LLaMa 的發(fā)布和對(duì)大語言模型的開源正在推動(dòng)行業(yè)和技術(shù)的進(jìn)步。

因?yàn)閷?duì)于 AI 行業(yè)來說，開源可能是讓公眾能徹底了解這項(xiàng)技術(shù)并且保證 AI 技術(shù)安全服務(wù)人類的最重要的途徑。

如果有朝一日真的要因?yàn)?AI 安全問題追責(zé)小扎或者 Meta，背后的邏輯就像是哥譚要通過追責(zé)蝙蝠俠來確保哥譚的治安一樣荒謬。

所以議員的這封問責(zé)信，自然就站在了公眾的對(duì)立面，不得人心。

Meta 在 LLaMa 上獲得的支持，除了來自公眾以外，更來自開源社區(qū)。

有人甚至把 LLaMa 的開源比作 Linux 的發(fā)布。

因?yàn)檎怯辛?Linux 這個(gè)開源的操作系統(tǒng)，網(wǎng)絡(luò)初創(chuàng)公司的門檻才被有效地降低。

數(shù)據(jù)中心才能在商業(yè)硬件和軟件上運(yùn)行，為云技術(shù)的誕生提供必要的條件。

而正是隨著 LLaMa 在 4chan 上的泄露，才催生了今年 3 月份的「羊駝大爆發(fā)」。

賦予了 AI 開源社區(qū)的模型與微軟和谷歌這種閉源科技巨頭競(jìng)爭(zhēng)的可能性。

如果像當(dāng)初的軟件行業(yè)一樣，我們把現(xiàn)在的 AI 行業(yè)分為開源和閉源兩個(gè)陣營。

那小扎所領(lǐng)導(dǎo)的 Meta 就是開源陣營的領(lǐng)袖。

小扎的 AI 野望

就在前幾天，小扎和硅谷著名的科技訪談節(jié)目主持人 Lex Fridman 進(jìn)行了一場(chǎng)接近 3 個(gè)小時(shí)的訪談。

在訪談中，他充分分享了自己對(duì)于 AI 技術(shù)和行業(yè)的愿景。

從中也許我們能窺探出他為什么要把 Meta AI 的未來押寶在開源和開源社區(qū)之上。

未來的 AI 需求決定了開源是解決問題的答案

在小扎看來，未來用戶將與許多不同的 AI 進(jìn)行互動(dòng)，就像現(xiàn)在你希望使用各種不同的 App 來完成不同的任務(wù)，也

像在生活中與不同的人建立有不同的情感聯(lián)系一樣。

在商業(yè)領(lǐng)域也存在這種需求，全球每家企業(yè)都將希望擁有一個(gè) AI。

就像你在 Instagram、Facebook、WhatsApp 或其他平臺(tái)上擁有自己的主頁，你希望將人們引導(dǎo)到可以與之互動(dòng)的 AI 上。

這樣 AI 就會(huì)向用戶推薦更多自家產(chǎn)品，而不是競(jìng)爭(zhēng)對(duì)手的產(chǎn)品。

所以，未來單一 AI 不可能解決所有問題，因?yàn)樗赡芘c每個(gè)特定企業(yè)的利益不一致。

這就是為什么小扎認(rèn)為市場(chǎng)和生活中肯定存在對(duì)不同 AI 的明確需求。

而為了滿足未來人們對(duì)于多元化，定制化的 AI 的需求，開源就是最好的答案。

闡明了為什么要開源，小扎進(jìn)一步分享到：

開源在生態(tài)系統(tǒng)內(nèi)可以產(chǎn)生更多的創(chuàng)新，使 Meta 產(chǎn)品變得更好，并為 Meta 提供安全性的寶貴反饋，這對(duì)于 Meta 打造一個(gè)良好的系統(tǒng)非常重要。

另一個(gè)原因是開源軟件往往更安全，因?yàn)橛懈嗳藢彶榫透菀装l(fā)現(xiàn)其中的漏洞。

在目前的 AI 規(guī)模下，通過 AI 開源更容易實(shí)現(xiàn)對(duì)齊和理解。

這些都是 AI 開源的會(huì)給 AI 行業(yè)和 Meta 自身帶來的好處。

AGI 時(shí)代面臨新的選擇

從還未到達(dá) AGI 階段的視角來看，在更開放的環(huán)境中，開源相較閉源來說是更好的選擇。

但在接近 AGI 或者是超級(jí)人工智能的時(shí)代，這個(gè)問題就需要重新思考和探討。

小扎認(rèn)為世界上已經(jīng)存在了超越人類智能的組織和結(jié)構(gòu)。

比如說公司作為一個(gè)實(shí)體，有自己獨(dú)特的品牌。

Meta 作為一個(gè)公司能體現(xiàn)出超越個(gè)人的智能。

類似于公司的網(wǎng)絡(luò)系統(tǒng)，會(huì)將多個(gè)人的智能融合在一起，或者將多個(gè)人和技術(shù)的智能融合在一起，形成一個(gè)比世界上任何個(gè)人都聰明得多的實(shí)體，并且能夠以一種積極的方式利用這些系統(tǒng)對(duì)社會(huì)產(chǎn)生影響。

沒人知道什么時(shí)候 AGI 會(huì)出現(xiàn)，但從歷史中我們能認(rèn)識(shí)到，這種更加智能的系統(tǒng)是一種推動(dòng)人類進(jìn)步有益現(xiàn)象。

某種程度上，個(gè)體的 AI 系統(tǒng)使個(gè)體人類和其他人之間的相互作用變得更加智能，這樣集體智能也更加智能。

在分享的最后，小扎還不忘自嘲一把。

說「人生中經(jīng)歷了太多失敗和尷尬的我，忍受失敗和尷尬已經(jīng)成了我的核心競(jìng)爭(zhēng)力」。

參考資料：

• https://venturebeat.com/ai/senators-send-letter-questioning-mark-zuckerberg-over-metas-llama-leak/

本文來自微信公眾號(hào)：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。