AI 大模型開源英雄，因 LLaMA 泄露遭國會質(zhì)問，小扎：習(xí)慣了

小扎最近又?jǐn)偵洗笫铝恕?/p>

兩位國會議員 Richard Blumenthal（國會隱私，技術(shù)和法律委員會主席）和 Josh Hawley（國會隱私，技術(shù)和法律委員會成員）給小扎寫了一封措辭嚴(yán)厲的質(zhì)詢函。

兩議員寫信嚴(yán)厲質(zhì)問小扎關(guān)于 LLaMa 的泄露事件

要求小扎針對之前 LLaMa 模型在 4chan 被泄露這一事件，在 15 號之前回答幾個關(guān)鍵問題。

其中最嚴(yán)重的是這三個：

• 在發(fā)布 LLaMa 之前，Meta 有沒有對泄露等情況做過風(fēng)險評估？

• 在發(fā)布 LLaMa 之后，Meta 有沒有采取任何措施防止模型泄露，或者減少模型泄露之后的危害？

• Meta 是否使用了用戶的數(shù)據(jù)來訓(xùn)練模型或者進(jìn)行 AI 技術(shù)的研究？

整封信措辭非常強硬，通篇都在說因為 LLaMa 的泄露可能會引發(fā)的犯罪，網(wǎng)絡(luò)欺詐和各種負(fù)面情況。

信中提到：

「我們對 Meta 的 AI 模型的泄漏感到擔(dān)憂，非常擔(dān)心 Meta AI (LLaMA) 及其在垃圾信息、欺詐、惡意軟件、侵犯隱私，騷擾以及其他不當(dāng)行為中的被濫用的可能性和造成的傷害」

「選擇以這種不受限制和不負(fù)責(zé)任的方式分發(fā) LLaMA 引發(fā)了重要而復(fù)雜的問題：何時以及如何公開發(fā)布復(fù)雜的 AI 模型是合適的」

仿佛就是在暗示以后如果出大事，你小扎必須吃不了兜著走。

而且信里對于 OpenAI 和它的產(chǎn)品 ChatGPT，卻塑造成了一個「偉光正」的正面形象。

「OpenAI 的 ChatGPT 會根據(jù)其道德準(zhǔn)則拒絕該請求。相比之下，LLaMA 會提供所要求的信件，以及涉及自殘、犯罪和反猶太主義的其他答案?！?/p>

這位 Richard Blumenthal 就是前段時間 Sam Altman 在國會接受質(zhì)詢時最重要的提問者和主持人。

當(dāng)時他對 Altman 的態(tài)度可是相當(dāng)?shù)暮皖亹偵?/p>

再相比之前小扎的質(zhì)詢會議上，他不但打斷小扎的發(fā)言，還針鋒相對地舉了牌子，上面寫了小扎道歉的集錦，質(zhì)問他為啥只會認(rèn)錯卻不知悔改。

同樣是科技領(lǐng)袖，咋待遇差別就那么大呢？

明明自己的模型開源給 AI 研究社區(qū)使用，推動了 AI 的對齊和透明度等安全技術(shù)的發(fā)展，還要被國會的老頭老太太們天天盯著質(zhì)詢。

競爭對手的開源和訓(xùn)練數(shù)據(jù)的合法性問題卻被監(jiān)管無視，還被奉為座上賓。

再加上質(zhì)詢信中對 OpenAI 和 Meta 的拉踩，看得出來監(jiān)管層對于小扎和 Meta 真的意見很大。

技術(shù)落后可以通過努力來追趕，被監(jiān)管層戴著有色眼鏡挑刺，那以后真的就麻煩大了。

此時小扎心里應(yīng)該是一萬個 LLaMA 大模型跑過。

AI 開源英雄 —— 扎克伯格

但就發(fā)布 LLaMa 這件事情上，小扎和 Meta 卻是真的得到了行業(yè)和公眾的一致認(rèn)可。

在質(zhì)詢信主要作者 Richard Blumenthal 自己的推特上，他轉(zhuǎn)發(fā)了自己寫的信，還對自己的行為進(jìn)行了一番義正詞嚴(yán)地敘述。

但是下面的回復(fù)卻幾乎被網(wǎng)友一邊倒的質(zhì)疑甚至是攻擊。

網(wǎng)友反應(yīng)

開源的代碼是受第一修正案保護(hù)的。只要開源 Meta 沒辦法阻止對于公眾使用，所以你提出這些問題讓我懷疑你動機。

到底是誰給了你權(quán)力認(rèn)為 AI 是的危險的？人民對于你阻止 AI 技術(shù)開源和免費這事情投過票嗎？作為人民的代表你已經(jīng)越界了！

Meta 開源了，不涉及商業(yè)利益，那么「Commerce Clause」就管不了啦！它被 Meta 之外的人泄露你去找 Meta 有什么用呢？

議員，你真的沒有權(quán)力監(jiān)管 AI 的發(fā)展，現(xiàn)在沒有以后也沒有。而且對于一個全球所有人都能接入公眾網(wǎng)絡(luò)服務(wù)，怎么可能被完全管控起來呢？

請用你的立法權(quán)力保證你的議員工作不會被取代。

希望你以后被大家選下去。

LLaMa 只是一個注腳。阿聯(lián)酋的 Falcon 直接商業(yè)開源了，之后會有更多的項目基于這些開源的模型。所以請不要為了追求一些不可能達(dá)到的目的而抑制美國的創(chuàng)新能力和關(guān)鍵的開源技術(shù)。

沒有必要責(zé)怪 FB, 這樣會讓本想開源的公司被迫閉源，這樣我們追求的技術(shù)透明度就更加難以實現(xiàn)了。這是非常危險的情況。

讓 Meta 承擔(dān)對于 AI 濫用的后果是沒有意義的，Meta 沒有能力也沒有責(zé)任承擔(dān)這個，就像不能要求槍械，錘子和棒球棍的廠家來承擔(dān)這些東西濫用的后果是一個道理。

在他的這條推文下面的 110 個回復(fù)中，幾乎找不到支持他寫這封信的留言。

看得出來，留言的大部分網(wǎng)友都在幫小扎辯解說 LLaMa 的發(fā)布和對大語言模型的開源正在推動行業(yè)和技術(shù)的進(jìn)步。

因為對于 AI 行業(yè)來說，開源可能是讓公眾能徹底了解這項技術(shù)并且保證 AI 技術(shù)安全服務(wù)人類的最重要的途徑。

如果有朝一日真的要因為 AI 安全問題追責(zé)小扎或者 Meta，背后的邏輯就像是哥譚要通過追責(zé)蝙蝠俠來確保哥譚的治安一樣荒謬。

所以議員的這封問責(zé)信，自然就站在了公眾的對立面，不得人心。

Meta 在 LLaMa 上獲得的支持，除了來自公眾以外，更來自開源社區(qū)。

有人甚至把 LLaMa 的開源比作 Linux 的發(fā)布。

因為正是有了 Linux 這個開源的操作系統(tǒng)，網(wǎng)絡(luò)初創(chuàng)公司的門檻才被有效地降低。

數(shù)據(jù)中心才能在商業(yè)硬件和軟件上運行，為云技術(shù)的誕生提供必要的條件。

而正是隨著 LLaMa 在 4chan 上的泄露，才催生了今年 3 月份的「羊駝大爆發(fā)」。

賦予了 AI 開源社區(qū)的模型與微軟和谷歌這種閉源科技巨頭競爭的可能性。

如果像當(dāng)初的軟件行業(yè)一樣，我們把現(xiàn)在的 AI 行業(yè)分為開源和閉源兩個陣營。

那小扎所領(lǐng)導(dǎo)的 Meta 就是開源陣營的領(lǐng)袖。

小扎的 AI 野望

就在前幾天，小扎和硅谷著名的科技訪談節(jié)目主持人 Lex Fridman 進(jìn)行了一場接近 3 個小時的訪談。

在訪談中，他充分分享了自己對于 AI 技術(shù)和行業(yè)的愿景。

從中也許我們能窺探出他為什么要把 Meta AI 的未來押寶在開源和開源社區(qū)之上。

未來的 AI 需求決定了開源是解決問題的答案

在小扎看來，未來用戶將與許多不同的 AI 進(jìn)行互動，就像現(xiàn)在你希望使用各種不同的 App 來完成不同的任務(wù)，也

像在生活中與不同的人建立有不同的情感聯(lián)系一樣。

在商業(yè)領(lǐng)域也存在這種需求，全球每家企業(yè)都將希望擁有一個 AI。

就像你在 Instagram、Facebook、WhatsApp 或其他平臺上擁有自己的主頁，你希望將人們引導(dǎo)到可以與之互動的 AI 上。

這樣 AI 就會向用戶推薦更多自家產(chǎn)品，而不是競爭對手的產(chǎn)品。

所以，未來單一 AI 不可能解決所有問題，因為它可能與每個特定企業(yè)的利益不一致。

這就是為什么小扎認(rèn)為市場和生活中肯定存在對不同 AI 的明確需求。

而為了滿足未來人們對于多元化，定制化的 AI 的需求，開源就是最好的答案。

闡明了為什么要開源，小扎進(jìn)一步分享到：

開源在生態(tài)系統(tǒng)內(nèi)可以產(chǎn)生更多的創(chuàng)新，使 Meta 產(chǎn)品變得更好，并為 Meta 提供安全性的寶貴反饋，這對于 Meta 打造一個良好的系統(tǒng)非常重要。

另一個原因是開源軟件往往更安全，因為有更多人審查就更容易發(fā)現(xiàn)其中的漏洞。

在目前的 AI 規(guī)模下，通過 AI 開源更容易實現(xiàn)對齊和理解。

這些都是 AI 開源的會給 AI 行業(yè)和 Meta 自身帶來的好處。

AGI 時代面臨新的選擇

從還未到達(dá) AGI 階段的視角來看，在更開放的環(huán)境中，開源相較閉源來說是更好的選擇。

但在接近 AGI 或者是超級人工智能的時代，這個問題就需要重新思考和探討。

小扎認(rèn)為世界上已經(jīng)存在了超越人類智能的組織和結(jié)構(gòu)。

比如說公司作為一個實體，有自己獨特的品牌。

Meta 作為一個公司能體現(xiàn)出超越個人的智能。

類似于公司的網(wǎng)絡(luò)系統(tǒng)，會將多個人的智能融合在一起，或者將多個人和技術(shù)的智能融合在一起，形成一個比世界上任何個人都聰明得多的實體，并且能夠以一種積極的方式利用這些系統(tǒng)對社會產(chǎn)生影響。

沒人知道什么時候 AGI 會出現(xiàn)，但從歷史中我們能認(rèn)識到，這種更加智能的系統(tǒng)是一種推動人類進(jìn)步有益現(xiàn)象。

某種程度上，個體的 AI 系統(tǒng)使個體人類和其他人之間的相互作用變得更加智能，這樣集體智能也更加智能。

在分享的最后，小扎還不忘自嘲一把。

說「人生中經(jīng)歷了太多失敗和尷尬的我，忍受失敗和尷尬已經(jīng)成了我的核心競爭力」。

參考資料：

• https://venturebeat.com/ai/senators-send-letter-questioning-mark-zuckerberg-over-metas-llama-leak/

本文來自微信公眾號：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。