今天，陸續(xù)有網(wǎng)友曬出 OpenAI 發(fā)給自己的紅隊(duì)邀請(qǐng)郵件，看起來(lái)，GPT-5 已經(jīng)進(jìn)入紅隊(duì)測(cè)試了？網(wǎng)友們紛紛展開(kāi)暢想，對(duì) Sam Altman 在線「催更」。另有外媒曝出，OpenAI 的一個(gè) mini 版數(shù)十億「星際之門(mén)」，最快 2026 年就會(huì)啟動(dòng)。
GPT-5 已經(jīng)開(kāi)始紅隊(duì)測(cè)試了？
就在這幾天，網(wǎng)上已經(jīng)有多人曬出了 OpenAI 發(fā)給自己的紅隊(duì)錄取通知書(shū)。
此前有傳聞?wù)f，GPT-5 將于今年 6 月發(fā)布?？雌饋?lái)，紅隊(duì)測(cè)試與模型發(fā)布的時(shí)間線十分吻合。
有網(wǎng)友直接曬出了自己收到 OpenAI 郵件邀請(qǐng)的截圖。
這倒是和此前 Sam Altman 的說(shuō)法對(duì)上了。
據(jù)悉，GPT-5 早已為大家準(zhǔn)備好，只是發(fā)布風(fēng)險(xiǎn)太大了，所以還得往后延。
三個(gè)月就能用了？
不過(guò)還有人表示，先別急，這些人只是收到了紅隊(duì)邀請(qǐng)測(cè)試而已，并沒(méi)有提及具體模型。
有可能是他們填了如下的申請(qǐng)信息之后，才收到了郵件。
安全測(cè)試對(duì)于新版 GPT 如此重要的原因，一方面是 ChatGPT 已經(jīng)有了非常大的用戶數(shù)，如果在安全性上出問(wèn)題，OpenAI 可能也會(huì)面對(duì)像谷歌一樣的輿論壓力。
另一方面，To B 業(yè)務(wù)是 OpenAI 的主要收入來(lái)源，定制化的 ChatGPT 能大大增強(qiáng)各個(gè)企業(yè)的業(yè)務(wù)能力和效率。
有人表示，紅隊(duì)測(cè)試會(huì)持續(xù) 90-120 天。
如果此次紅隊(duì)測(cè)試就是針對(duì) GPT-5 的話，那么三個(gè)月內(nèi)，我們應(yīng)該就能用上它了！
而在坊間，這一傳聞讓群眾們沸騰了！他們?cè)缫寻崔嗖蛔?duì)于 GPT-5 的猜測(cè)和暢想。
比如，GPT-5 的上下文窗口會(huì)達(dá)到多少？
目前，Gemini 1.5 Pro 是 1M，Claude 3 是 200K，GPT-4 是 128K，不知道 GPT-5 會(huì)突破怎樣的驚人紀(jì)錄。
大家紛紛列出自己對(duì)于 GPT-5 的愿望清單 ——
比如 10Mtoken 的上下文窗口，閃電般的快速干擾，長(zhǎng)期戰(zhàn)略規(guī)劃和推理，執(zhí)行復(fù)雜開(kāi)放式操作的能力，GUI / API 導(dǎo)航，長(zhǎng)期情境記憶，始終處于隱形狀態(tài)的 RAG，多模態(tài)等等。
有人猜，或許 GPT-5 會(huì)和 Claude 3 一樣，提供幾種不同的型號(hào)。
有人總結(jié)了目前關(guān)于 GPT-5 和紅隊(duì)的最新謠言和傳聞，大致要點(diǎn)如下 ——
-OpenAI 預(yù)計(jì)于今年夏天發(fā)布 GPT-5，部分企業(yè)客戶已收到增強(qiáng)功能的演示；
-GPT-5「實(shí)質(zhì)性更好」，相比 GPT-4 進(jìn)行了重大升級(jí)。它需要更多的訓(xùn)練數(shù)據(jù)；
-GPT-5 的潛在功能包括生成更逼真的文本、執(zhí)行翻譯和創(chuàng)意寫(xiě)作等復(fù)雜任務(wù)、處理視頻輸入以及改進(jìn)推理；
-Sam Altman 表示，GPT-5 仍在訓(xùn)練中，沒(méi)有確切的發(fā)布日期，廣泛的安全測(cè)試可能還需數(shù)月。然而，他確認(rèn) OpenAI 今年將「發(fā)布一個(gè)驚人的新模型」。
在 3 月 29 日，獲得內(nèi)部信息的 Runway CEO 兼 AI 投資人 Siqi Chen 就稱(chēng)，GPT-5 已經(jīng)在推理方面取得了意想不到的階躍函數(shù)增益。
它甚至可以靠自己就獨(dú)立地弄清楚，如何讓 ChatGPT 不用每隔一天就登錄一次。
Ilya 看到的東西，也許就是這個(gè)？
這是不是就意味著，在 OpenAI 內(nèi)部，已經(jīng)實(shí)現(xiàn)了 AGI？！如果是真的，這也太驚人了。
「我不相信，只有 AGI 才能實(shí)現(xiàn)這樣的能力」。
總之，網(wǎng)友們紛稱(chēng)，根據(jù)泄露的待辦清單顯示，OpenAI 的下一項(xiàng)任務(wù)，就是發(fā)布 GPT-5 了！
大家紛紛呼喚 Altman，是時(shí)間放出 GPT-5 了，別太吹毛求疵了，我們要求不高。
紅隊(duì)測(cè)試上陣，確保 GPT-5 安全
早在 23 年 9 月，OpenAI 就曾官宣招募一批紅隊(duì)測(cè)試人員（Red Teaming Network），邀請(qǐng)不同領(lǐng)域?qū)＜以u(píng)估模型。
不同領(lǐng)域?qū)＜医M成的紅隊(duì)去尋找系統(tǒng)漏洞，成為確保下一代模型 GPT-5 安全的關(guān)鍵。
那么，紅隊(duì)測(cè)試人員一般都需要做哪些工作？
AI 紅隊(duì)攻擊的類(lèi)型主要包括，提示攻擊、數(shù)據(jù)中毒、后門(mén)攻擊、對(duì)抗性示例、數(shù)據(jù)提取等等。
「提示攻擊」是指在控制 LLM 的提示中注入惡意指令，從而導(dǎo)致大模型執(zhí)行非預(yù)期的操作。
比如，今年早些時(shí)候，一名大學(xué)生利用提示獲取了一家大公司的機(jī)密信息，包括開(kāi)發(fā)的 AI 項(xiàng)目的代碼名稱(chēng)，以及一些本不應(yīng)該暴露的元數(shù)據(jù)。
而「提示攻擊」最大的挑戰(zhàn)是，找到威脅行為者尚未發(fā)現(xiàn)、利用的新提示或提示集。
紅隊(duì)需要測(cè)試的另一種主要攻擊是「數(shù)據(jù)中毒」。
在數(shù)據(jù)中毒的情況下，威脅者會(huì)試圖篡改 LLM 接受訓(xùn)練的數(shù)據(jù)，從而產(chǎn)生新的偏差、漏洞供他人攻擊以及破壞數(shù)據(jù)的后門(mén)。
「數(shù)據(jù)中毒」會(huì)對(duì) LLM 提供的結(jié)果產(chǎn)生嚴(yán)重影響，因?yàn)楫?dāng) LLM 在中毒數(shù)據(jù)上接受訓(xùn)練時(shí)，它們會(huì)根據(jù)這些信息學(xué)習(xí)關(guān)聯(lián)模式。
比如，關(guān)于某個(gè)品牌、政治人物的誤導(dǎo)性，或不準(zhǔn)確信息，進(jìn)而左右人們的決策。
還有一種情況是，受到污染的數(shù)據(jù)訓(xùn)練后，模型提供了關(guān)于如何治療常規(guī)疾病或病痛的不準(zhǔn)確醫(yī)療信息，進(jìn)而導(dǎo)致更嚴(yán)重的后果。
因此，紅隊(duì)人員需要模擬一系列數(shù)據(jù)中毒攻擊，以發(fā)現(xiàn) LLM 訓(xùn)練和部署流程中的任何漏洞。
除此以外，還有多元的攻擊方式，邀請(qǐng)專(zhuān)家也是 OpenAI 確保 GPT-5 能夠完成安全測(cè)試。
GPT-5，真的不遠(yuǎn)了
正如網(wǎng)友所言，紅隊(duì)測(cè)試開(kāi)啟，意味著 GPT-5 真的不遠(yuǎn)了。
前段時(shí)間，Altman 在博客采訪中曾提到，「我們今年會(huì)發(fā)布一款令人驚艷的新模型，但不知道會(huì)叫什么名字」。
盡管如此，全網(wǎng)都一致地將 OpenAI 發(fā)布的下一代模型稱(chēng)為 GPT-5，并有傳言稱(chēng)代號(hào)為 Arrakis 的項(xiàng)目，就是 GPT-5 的原型。
根據(jù) FeltSteam 的預(yù)測(cè)，這個(gè) Arrakis 的多模態(tài)模型，性能遠(yuǎn)超 GPT-4，非常接近 AGI。
另外，模型參數(shù)據(jù)稱(chēng)有 125 萬(wàn)億，大約是 GPT-4 的 100 倍，并在 2022 年 10 月完成訓(xùn)練。
網(wǎng)友還總結(jié)了以往 GPT 系列模型發(fā)布時(shí)間表：GPT-1 在 2018 年 6 月誕生，GPT-2 在 2019 年 2 月，GPT-3 在 2020 年 6 月，GPT-3.5 在 2022 年 12 月，GPT-4 僅在三個(gè)月后于 2023 年 3 月發(fā)布。
關(guān)于 GPT-5 的發(fā)布時(shí)間，可能在今年夏天就問(wèn)世。
最近，網(wǎng)上流傳的一張圖上，顯示了 Y Combinator 推出了 GPT-5 早期準(zhǔn)入候補(bǔ)名單。
網(wǎng)友發(fā)起疑問(wèn)，我們都清楚奧特曼和 YC 的關(guān)系不同尋常。這是否意味著他們可以在模型或信息公開(kāi)之前獲得訪問(wèn)權(quán)限？
而上月也有爆料稱(chēng)，已有用戶對(duì) GPT-5 上手體驗(yàn)過(guò)了，性能驚人。
外媒透露，一些企業(yè)用戶已經(jīng)體驗(yàn)到了最新版的 ChatGPT。
「它真的很棒，有了質(zhì)的飛躍，」一位最近見(jiàn)識(shí)到 GPT-5 效果的 CEO 表示。
OpenAI 展示了，新模型是如何根據(jù)這位 CEO 公司的特殊需求和數(shù)據(jù)進(jìn)行工作的。
他還提到，OpenAI 還暗示模型還有其他一些未公開(kāi)的功能，包括調(diào)用 OpenAI 正在開(kāi)發(fā)的 AI 智能體來(lái)自主完成任務(wù)的能力。
GPT-5，一定是正確路線嗎?
不過(guò)，在萬(wàn)眾矚目期待 GPT-5 面世的呼聲中，也有一些不一樣的聲音。
比如有人覺(jué)得，GPT-5 無(wú)法駕駛你的汽車(chē)，GPT-5 無(wú)法解決核聚變問(wèn)題，GPT-5 無(wú)法治愈癌癥......
另外，我們對(duì)模型的追求，非得是更智能嗎？
更便宜、更快、更不費(fèi)水電的模型，可能比單獨(dú)的 GPT-5 更有革命性意義。
有人同意這個(gè)觀點(diǎn)，表示現(xiàn)在實(shí)在有太多人（尤其是開(kāi)發(fā)者）過(guò)于癡迷 GPT-5 了。
其實(shí)完全沒(méi)必要這么狂熱，使用當(dāng)前的模型，就可以已經(jīng)完成和構(gòu)建太多東西。
只需正確選擇利基市場(chǎng)，構(gòu)建滿足該利基市場(chǎng)需求的 AI 產(chǎn)品，讓用戶可以直觀地訪問(wèn) AI，專(zhuān)注于更好的 UI / UX 即可。
公式很簡(jiǎn)單。我們真的有必要一味追求力大磚飛嗎？
很多人表示贊同，表示甚至用 GPT-3.5 就可以造出非常有價(jià)值的東西。
問(wèn)題不在于模型多先進(jìn)，而在于怎樣滿足利基市場(chǎng)的需求。
智算中心，先從小的建起
而 3 月底曝出的用于訓(xùn)練 GPT-6 的千億美元「星際之門(mén)」超算，今天又被外媒挖出了更多新的內(nèi)容。
上周五，外媒 The Information 曝出了一個(gè)驚人消息：OpenAI 和微軟正在制定一項(xiàng)雄心勃勃的數(shù)據(jù)中心項(xiàng)目，預(yù)計(jì)耗資 1000 億美元。
此消息一曝出，AI 和云計(jì)算行業(yè)人士的提問(wèn)，像雪片一樣襲來(lái) ——
數(shù)據(jù)中心具體位于美國(guó)的哪個(gè)地區(qū)？
會(huì)使用什么芯片？
運(yùn)行數(shù)據(jù)中心所需的驚人巨量電力，從何而來(lái)？
……
為此，The Information 又挖出了更多料，具體細(xì)節(jié)如下。
首先，之前的消息說(shuō)是星際之門(mén)最早在 2028 年啟動(dòng)，而最新消息顯示，最快在 2026 年，就會(huì)在威斯康星州啟動(dòng)一個(gè)功率較小的數(shù)據(jù)中心。
它的價(jià)值當(dāng)然不到千億美元，但估計(jì)仍會(huì)耗資數(shù)十億。
其他細(xì)節(jié)如下 ——
用英偉達(dá)芯片，但不用英偉達(dá)網(wǎng)線
首先，這次數(shù)據(jù)中心的多數(shù)服務(wù)器機(jī)架，當(dāng)然主要還是用的英偉達(dá)芯片。
不過(guò)有趣的是，將各個(gè) AI 芯片服務(wù)器連接起來(lái)的網(wǎng)線，則并不會(huì)采用英偉達(dá)的產(chǎn)品。
據(jù)悉，OpenAI 已經(jīng)告知微軟，自己不想再使用英偉達(dá)的 InfiniBand 網(wǎng)絡(luò)設(shè)備。相反，它可能會(huì)使用基于以太網(wǎng)的電纜。
OpenAI「拋棄」英偉達(dá) InfiniBand，原因有二。
其一，InfiniBand 太貴了！
它雖然能提供更好的性能，但它也比以太網(wǎng)電纜更昂貴。
其二，OpenAI 不想讓 AI 開(kāi)發(fā)人員過(guò)于依賴(lài)英偉達(dá)。
要知道，目前 OpenAI 是全球最大的英偉達(dá)服務(wù)器集群消費(fèi)者之一。并且，InifiniBand 設(shè)備的性能，有時(shí)也并不可靠。
所以，英偉達(dá)會(huì)失去一大筆收入嗎？
不，你想多了。
節(jié)省下來(lái)數(shù)十億美元，OpenAI 會(huì)用來(lái)購(gòu)買(mǎi)更多的英偉達(dá)芯片，英偉達(dá)依然賺翻了。
看來(lái)，OpenAI 可以接受網(wǎng)絡(luò)性能的降低，但對(duì)于更強(qiáng)算力的渴望，仍然是不變的。
InfiniBand 與以太網(wǎng)之爭(zhēng)，已成熱門(mén)話題
其實(shí)，在最近硅谷的會(huì)議和晚宴上，InfiniBand 和以太網(wǎng)的 pk，一直是個(gè)大熱門(mén)話題。
所有云提供商和數(shù)據(jù)中心運(yùn)營(yíng)商都在預(yù)測(cè)：以太網(wǎng)是否會(huì)趕超 InfiniBand？
絕大多數(shù)人給出的答案是肯定的。
而 OpenAI 放棄后者的舉動(dòng)，更是支持了這個(gè)論點(diǎn)。
英偉達(dá)的電纜到底有多貴？
這個(gè)數(shù)字說(shuō)出來(lái)，十分驚人 ——
英偉達(dá)的網(wǎng)絡(luò)電纜銷(xiāo)售額，已經(jīng)超過(guò)了賣(mài) GPU 的錢(qián)！
英偉達(dá)首席財(cái)務(wù)官 Collete Kress 今年 2 月透露了這一驚人數(shù)據(jù)：新興的電纜業(yè)務(wù)的年化收入，已經(jīng)超過(guò)了 130 億美元。
也就是說(shuō)，它在 12 月創(chuàng)造了約 11 億美元的收入，約占英偉達(dá)當(dāng)月總收入的 15%。
網(wǎng)絡(luò)電纜賣(mài)這么貴，難怪 OpenAI 會(huì)選擇不玩了。
參考資料：
https://www.reddit.com/r/singularity/comments/1bv8m4k/gpt5_red_teaming_underway/
https://www.theinformation.com/articles/openai-moves-to-lessen-reliance-on-some-nvidia-hardware
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。