作為技術(shù)類(lèi)的公眾號(hào),今天這篇文章,我們聊點(diǎn)技術(shù)之外的一些更宏觀的發(fā)展話(huà)題:)
最近跟一個(gè)朋友,交流了一些不那么“純技術(shù)”的話(huà)題:后進(jìn)如何趕超先進(jìn)?在交流的過(guò)程中,也引發(fā)了我對(duì)技術(shù)發(fā)展的一些更深層次的思考。
關(guān)于后進(jìn)趕超先進(jìn),網(wǎng)上有太多的文章和視頻。作為常年從事計(jì)算機(jī)算力芯片相關(guān)工作的我,今天就從算力芯片這個(gè)視角出發(fā),談?wù)剬?duì)國(guó)內(nèi)算力芯片如何實(shí)現(xiàn)突圍的個(gè)人的一些看法。
1 成熟賽道,后進(jìn)趕超先進(jìn),很難
1.1 CPU 的江湖恩仇
上世紀(jì) 70 年代,Intel 發(fā)明了 CPU。通過(guò)對(duì) CPU 的持續(xù)投入,Intel 逐漸獲得了市場(chǎng)的優(yōu)勢(shì),并逐漸構(gòu)建起了自己的 x86 生態(tài),這包括外圍的硬件合作伙伴、BIOS 等固件開(kāi)發(fā)、操作系統(tǒng)軟件、工具鏈以及應(yīng)用軟件生態(tài)等等。
RISC 是一個(gè)失敗的例子。X86 是 CISC 架構(gòu),隨著 CISC 指令的復(fù)雜度越來(lái)越高,越來(lái)越難以控制,RISC 架構(gòu)逐漸興起。RISC 架構(gòu)處理器提倡簡(jiǎn)化指令集設(shè)計(jì)、固定指令長(zhǎng)度、統(tǒng)一指令編碼格式、加速常用指令。RISC 架構(gòu)成為很多處理器的首選,并且也成為了許多計(jì)算機(jī)教材的經(jīng)典 CPU 設(shè)計(jì)案例。但即便如此,在市場(chǎng)競(jìng)爭(zhēng)上,RISC 架構(gòu)仍然輸給了 CISC。
安騰是 Intel 自己的一個(gè)失敗的例子。安騰是 Intel 于 2001 年推出的 64 位架構(gòu)的 CPU 處理器。雖然是 Intel 的親兒子,雖然是功能強(qiáng)大的 64 位 CPU 架構(gòu),雖然安騰的架構(gòu)和微架構(gòu)設(shè)計(jì)非常優(yōu)秀,但因?yàn)榘豺v和 x86 的不兼容,完全一個(gè)新的生態(tài),也不可避免的走向了失敗。最后成就了 AMD64 的成功。
ARM 的成功,更多源于商業(yè)模式。最開(kāi)始,ARM 自研的處理器性能都非常差,其自研的處理器性能通常是低于一些巨頭客戶(hù)自研的 ARM 架構(gòu) CPU。但因?yàn)?ARM 是一個(gè)中立的 CPU 架構(gòu)和 IP 供應(yīng)商,很多巨頭愿意扶持著它向前邁進(jìn)。最后在智能手機(jī)時(shí)代,ARM 大獲成功。有了資金實(shí)力之后,ARM 后續(xù) CPU 的性能才逐漸趕上并且部分超越了自己的巨頭客戶(hù)。
RISC-v,后起之秀,明日之星,未來(lái)可能的成功也是依賴(lài)于更優(yōu)的商業(yè)模式。跟 ARM 當(dāng)年的處境類(lèi)似,目前的 RISCv 性能和生態(tài)都要弱于 x86 和 ARM,但因?yàn)楦鼉?yōu)的商業(yè)模式(完全開(kāi)源開(kāi)放的,并且得到廣泛共識(shí)的免費(fèi)的處理器),其發(fā)展也是相當(dāng)迅猛。
1.2 NVIDIA,從十年磨一劍到市值萬(wàn)億
傳統(tǒng)的 GPU 是圖形加速卡,本質(zhì)上是眾多各種領(lǐng)域各種場(chǎng)景加速卡中的一員。除了 GPU 之外,其他眾多的各類(lèi)加速卡,幾乎沒(méi)有成功的案例。GPU 之所以最終成功,來(lái)自于 00 年代 NVIDIA 的轉(zhuǎn)型:一方面,是 GPU 從傳統(tǒng)的圖像加速卡,改造成面向并行計(jì)算的 GPGPU;此外,為了降低開(kāi)發(fā)的門(mén)檻,把更多的資源投向了 CUDA,并且對(duì)外宣稱(chēng)自己是一家軟件公司。
即便策略正確,最終的成功驗(yàn)證也差不多是十年之后。CUDA 的最早期版本是在 2005 年前后發(fā)布的,直到 2012 年深度學(xué)習(xí)的崛起,GPU 才開(kāi)始真正脫穎而出,也直到 2018 年大模型興起,以及 2023 年 ChatGPT 的火爆,才把 NVIDIA 推上了最高的神壇。
1.3 簡(jiǎn)單總結(jié)
經(jīng)常有企業(yè)喊出口號(hào)是“要做中國(guó)的 xxx”,但“學(xué)我者生,像我者死”,芯片是一個(gè)國(guó)際化的市場(chǎng),全球競(jìng)爭(zhēng),這樣亦步亦趨的學(xué)習(xí)巨頭企業(yè)的做法,無(wú)異于“邯鄲學(xué)步”。
在成熟的賽道,后進(jìn)如果靠模仿先進(jìn)前進(jìn),那必然無(wú)法成功。后進(jìn)需要有差異化,有創(chuàng)新,有優(yōu)勢(shì),才有可能成功。并且,后進(jìn)要想成功,其難度遠(yuǎn)高于先進(jìn)者當(dāng)年的難度。
2 技術(shù)的變革,是后進(jìn)趕超先進(jìn)的關(guān)鍵時(shí)機(jī)
國(guó)產(chǎn)新能源汽車(chē),是后進(jìn)趕超先進(jìn)的經(jīng)典案例。據(jù)中國(guó)汽車(chē)工業(yè)協(xié)會(huì)整理的海關(guān)總署數(shù)據(jù)顯示,2023 年上半年,汽車(chē)整車(chē)出口 234.1 萬(wàn)輛,同比增長(zhǎng) 76.9%;1~7 月,汽車(chē)出口總值 3837.3 億元,增長(zhǎng) 118.5%。中國(guó)汽車(chē)出口首次超過(guò)日本,躍居世界首位。新能源汽車(chē)是中國(guó)汽車(chē)出口的核心增長(zhǎng)點(diǎn)。2023 年 1~6 月出口新能源車(chē) 80 萬(wàn)輛,同比增長(zhǎng) 105%。
在成熟賽道,先進(jìn)具有技術(shù)優(yōu)勢(shì)、市場(chǎng)優(yōu)勢(shì)、專(zhuān)利優(yōu)勢(shì)、品牌優(yōu)勢(shì)等等,后進(jìn)趕超先進(jìn)很難。但如果是技術(shù)的變革期,后進(jìn)就可以在新的技術(shù)領(lǐng)域提前布局,讓雙方站在同一個(gè)起跑線(xiàn),以此來(lái)獲得“公平”競(jìng)技的機(jī)會(huì),從而有可能實(shí)現(xiàn)超越。國(guó)產(chǎn)汽車(chē),就是抓住了新能源和智能汽車(chē)這一波浪潮,迅速地達(dá)到了汽車(chē)出口量全球第一。
那么,芯片的變革機(jī)會(huì)在哪里?
3 AGI 大模型的挑戰(zhàn)
2023 年初的 AI 大模型,“不約而同”的參數(shù)規(guī)模停留在千億級(jí),為什么?
核心的原因在于,這是目前的 GPU 計(jì)算集群所能支撐的算力上限:
一方面,單芯片算力已經(jīng)瓶頸,算力增長(zhǎng)極度緩慢。
另一方面,受限于目前的服務(wù)器以 CPU 為中心的架構(gòu)約束,以及網(wǎng)絡(luò)的交互效率所限,集群規(guī)模也已經(jīng)達(dá)到了上限。
還有一個(gè)很重要的原因,就是算力的建設(shè)和運(yùn)營(yíng)成本,也已經(jīng)達(dá)到了一個(gè)天文數(shù)字。
目前 CPU 性能早已瓶頸,GPU 性能即將見(jiàn)頂并且成本高昂,而 AI 芯片太過(guò)于專(zhuān)用,不適用于快速變化的模型算法 / 算子和業(yè)務(wù)邏輯。
如何解決?我們也可以給一個(gè)簡(jiǎn)單的答案:
一方面,持續(xù)不斷的 Scale up,通過(guò)更多的處理器內(nèi)聚,數(shù)量級(jí)的提升單芯片的性能;
另一方面,持續(xù)不斷地增強(qiáng)芯片的內(nèi)部交互(打破已有的以 CPU 為中心的架構(gòu))和外部交互(增強(qiáng)高性能網(wǎng)絡(luò))。數(shù)量級(jí)的提升集群中服務(wù)器的數(shù)量。
此外,大芯片需要通用。能否實(shí)現(xiàn)足夠的通用性,是大芯片能夠大規(guī)模落地的最重要因素。
還有一個(gè)很重要的,要通過(guò)一些機(jī)制,數(shù)量級(jí)的降低算力的成本。
4 芯片工藝的快速進(jìn)步
工藝持續(xù)進(jìn)步,Chiplet 先進(jìn)封裝也越來(lái)越成熟。從 2D 的工藝到 3D 的封裝再到 Chiplet 的 4D 封裝,芯片的底層實(shí)現(xiàn)技術(shù)仍在快速發(fā)展。
目前的大算力芯片,通常在 500 億晶體管左右。Intel 的規(guī)劃是在 2030 年,達(dá)到 1 萬(wàn)億晶體管。這意味著,相比目前的芯片,計(jì)算規(guī)模再提升 20 倍。
如此大規(guī)模的晶體管資源,我們?cè)撊绾胃玫乩茫?/p>
5 算力芯片變革的歷史機(jī)遇
5.1 系統(tǒng)架構(gòu)創(chuàng)新
一方面是需求牽引,一方面是工藝支撐,兩方面的因素,都需要我們?cè)谙到y(tǒng)架構(gòu)層次,做更多的創(chuàng)新。
從單核到多核、從同構(gòu)到異構(gòu),從單異構(gòu)到多異構(gòu),再?gòu)亩喈悩?gòu)到異構(gòu)融合,是一個(gè)計(jì)算架構(gòu)從簡(jiǎn)單到復(fù)雜的繼承并發(fā)展的過(guò)程。
芯片設(shè)計(jì)規(guī)模越來(lái)越大,單芯片集成更多架構(gòu)的處理器成為一種非常常見(jiàn)的設(shè)計(jì)。這種多異構(gòu)混合計(jì)算架構(gòu),Intel 稱(chēng)為超異構(gòu)計(jì)算。在 2023 年 9 月份發(fā)布的《異構(gòu)融合計(jì)算技術(shù)白皮書(shū)》中,采用了更嚴(yán)謹(jǐn)更準(zhǔn)確的一種叫法,“異構(gòu)融合計(jì)算”。深刻揭示了多異構(gòu)混合計(jì)算的關(guān)鍵,在于異構(gòu)處理器之間的協(xié)同和融合。
5.2 大芯片如何能夠通用?
系統(tǒng)規(guī)模越來(lái)越大,變化越來(lái)越快,從而使得在大算力芯片,通用性比性能更重要。而定制的加速算力芯片覆蓋場(chǎng)景少,生命周期短,難以大規(guī)模落地。
此外,相比專(zhuān)用,通用是更高級(jí)的能力。通用計(jì)算,需要從眾多需求中提煉和拆解出通用的部分和組件,通過(guò)軟件編程,靈活地組合出用戶(hù)所需的形形色色的功能。并且還要實(shí)現(xiàn)性能和靈活性的兼顧。
那么,如何實(shí)現(xiàn)通用?能夠通用的本質(zhì)原因是什么?
系統(tǒng)規(guī)模越大,“二八定律”特征越明顯。這樣,我們可以把確定性的共性的部分硬件加速實(shí)現(xiàn),相對(duì)不確定的個(gè)性的部分通過(guò)軟件編程實(shí)現(xiàn)。
在六代計(jì)算架構(gòu)的基礎(chǔ)上,增加“通用”約束,變成三代通用計(jì)算架構(gòu):
第一代單核和第二代多核合并成 CPU 同構(gòu)。
取消專(zhuān)用的 DSA 異構(gòu)計(jì)算階段,異構(gòu)計(jì)算僅保留 GPU 的通用異構(gòu)。
多異構(gòu)要想成功,就需要融合;異構(gòu)融合要想成功,就需要通用。因此,從終局思維思考,最終可落地的方案,會(huì)是通用的異構(gòu)融合計(jì)算。
5.3 從單兵作戰(zhàn)到團(tuán)隊(duì)協(xié)作
受限于先進(jìn)工藝,我們無(wú)法實(shí)現(xiàn)最強(qiáng)算力的芯片。但我們可以通過(guò)更多資源的協(xié)作,來(lái)實(shí)現(xiàn)更強(qiáng)的群體智能:
方法一,異構(gòu)融合。通過(guò)異構(gòu)融合的計(jì)算架構(gòu)創(chuàng)新,實(shí)現(xiàn)更多處理器核心的協(xié)同和融合。可以在工藝落后 1-2 代的情況下,實(shí)現(xiàn)單個(gè)芯片的算力更優(yōu)。
方法二,算力網(wǎng)絡(luò)。通過(guò)算力網(wǎng)絡(luò)、東數(shù)西算,實(shí)現(xiàn)跨集群的算力調(diào)度和算力協(xié)同,可以實(shí)現(xiàn)算力資源的高效利用。
方法三,智能網(wǎng)聯(lián)。通過(guò)終端的智能網(wǎng)聯(lián),實(shí)現(xiàn)云端協(xié)同。清華的院士提出的智能網(wǎng)聯(lián)汽車(chē)中國(guó)方案,強(qiáng)調(diào)車(chē)(終端)、路(MEC 接入)、邊、云的深度協(xié)同,在單體算力有限的情況下,可以實(shí)現(xiàn)更智能化的用戶(hù)服務(wù)體驗(yàn)。
方法四,云網(wǎng)邊端融合。更龐大算力節(jié)點(diǎn),更高性能更低延遲的網(wǎng)絡(luò),更強(qiáng)大的算力基礎(chǔ)設(shè)施,實(shí)現(xiàn)更強(qiáng)大的宏觀數(shù)字系統(tǒng)。
5.4 總結(jié)
從異構(gòu)到異構(gòu)融合計(jì)算,計(jì)算架構(gòu)的變革,給了我們“彎道超車(chē)”的時(shí)機(jī);歷史機(jī)遇稍縱即逝,需要快馬加鞭,加大投入。
抓住計(jì)算架構(gòu)變革的歷史時(shí)機(jī),實(shí)現(xiàn)算力芯片的彎道超車(chē)!
本文來(lái)自微信公眾號(hào):軟硬件融合 (ID:cash-arch),作者:Chaobowx
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。