設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

一篇論文引發(fā)的光子 AI 芯片革命,劍指摩爾定律

芯東西 2021/1/5 9:03:44 責(zé)編:懶貓

一篇論文引發(fā)的光子AI芯片革命!這次真想要了摩爾定律的命

光子計算時代到來了嗎?幾家中美芯片創(chuàng)企正試圖給出正面的回答。

2020 年 6 月,LightOn 發(fā)表用光學(xué)神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片運(yùn)行 AI 模型的新論文;7 月,曦智科技拿到由和利資本投資的數(shù)千萬美元 A + 輪融資;8 月,Lightmatter 在芯片頂會 HotChips 上展示了其光子芯片的架構(gòu)細(xì)節(jié);12 月,光子算數(shù)宣布其打造的光電混合 AI 加速計算卡已交予服務(wù)器廠商客戶做測試。

在加速人工智能(AI)這條賽道上,光子計算芯片這條創(chuàng)新的技術(shù)方向正異軍突起。這是一群勇敢的探路人,他們在期待和爭議中前行,一步一個腳印地試圖證明自己判斷方向的正確性。

光子 AI 芯片距離產(chǎn)業(yè)化落地還有多遠(yuǎn)?在這一賽道的創(chuàng)業(yè)者們,能給計算芯片帶來新的驚喜嗎?

一、一篇頂刊論文引出的新型賽道

隨著摩爾定律滯緩,硅光子技術(shù)成為超越摩爾定律的研究方向之一。

2017 年,來自英國艾克塞特大學(xué)、牛津大學(xué)和明斯特大學(xué)的研究人員,宣布了其類腦光驅(qū)動芯片研究成果。他們用特殊相變材料和光子集成電路模擬人腦神經(jīng)突觸,使得這款芯片在測試中的數(shù)據(jù)傳輸速度達(dá) 300Gbps,比當(dāng)時現(xiàn)有標(biāo)準(zhǔn)處理器要快 10-50 倍,同時功耗大幅降低。

在同年 5 月的美國麻省理工學(xué)院 10 萬美元創(chuàng)業(yè)大賽上,一支來自麻省理工學(xué)院(MIT)的團(tuán)隊?wèi){借用納米光子芯片執(zhí)行 AI 任務(wù),成功斬獲大獎。

▲主創(chuàng)團(tuán)隊在 2017 年贏得麻省理工學(xué)院 10 萬美元創(chuàng)業(yè)大賽

1 個月后,主創(chuàng)團(tuán)隊的研究成果登上頂級期刊《自然 · 光子學(xué)》的封面,論文描述了一種利用光學(xué)干涉進(jìn)行神經(jīng)網(wǎng)絡(luò)計算的創(chuàng)新方法。當(dāng)時,國際著名光學(xué)科學(xué)家、斯坦福大學(xué)終身教授 David Miller 評價稱:“這一系列研究成果極大地推動了集成光學(xué)未來取代傳統(tǒng)電子計算芯片的發(fā)展。”

這篇光子芯片論文的一作及通訊作者是 MIT博士后沈亦晨,二作是尼克 · 哈里斯(Nick Harris)。不久之后,這些論文合著者將成為商業(yè)上的競爭對手,開啟各自的創(chuàng)業(yè)之旅,并分別獲得來自谷歌、百度等科技巨頭的投資。

▲麻省理工學(xué)院團(tuán)隊論文登上《自然 · 光子學(xué)》封面

論文鏈接:https://www.nature.com/articles/nphoton.2017.93

光子是當(dāng)前速度最快的粒子,相較電子,速度更快而功耗極低。此前光學(xué)技術(shù)通常應(yīng)用于通信傳輸領(lǐng)域,借助光的更快速度、更高容量等特點(diǎn)實(shí)現(xiàn)數(shù)據(jù)的遠(yuǎn)距離傳輸,但在計算領(lǐng)域進(jìn)展緩慢。

實(shí)際上,光計算的研究歷史并不短暫。在國外,1950 年代前后,貝爾實(shí)驗室等機(jī)構(gòu)花費(fèi)大量精力來設(shè)計光學(xué)計算機(jī)部件;在國內(nèi),1987 年中科院上海光學(xué)精密機(jī)械研究所王之江院士曾于《中國科學(xué)院院刊》上撰文,提出了極具前瞻性的發(fā)展光計算技術(shù)的建議,并于此后在光學(xué)神經(jīng)學(xué)邏輯計算方面開展了大量的工作。

由于光計算的應(yīng)用場景并不清晰,軟硬件體系也不夠完善,關(guān)于如何用光子代替電子芯片執(zhí)行計算的想法長期停留在研究階段,鮮少在實(shí)際應(yīng)用中發(fā)揮廣泛的作用。

直到摩爾定律趨于滯緩,AI 的巨輪開始起航。

二、光子 AI 芯片的優(yōu)勢:速度快、功耗低、擅長并行計算

作為統(tǒng)治計算的一個基準(zhǔn)法則,摩爾定律指出,微處理器芯片上的晶體管數(shù)每 18-24 個月翻一番,曾長期作為推動電子設(shè)備小型化和互聯(lián)網(wǎng)普及的關(guān)鍵動力。

但這是芯片制造商及供應(yīng)商竭力維系摩爾定律的結(jié)果,隨著逼近物理尺寸極限、散熱難題即將成為無法克服的挑戰(zhàn),以及許多關(guān)鍵的計算密集型應(yīng)用發(fā)展提速,人們對摩爾定律的未來產(chǎn)生了更多疑慮,對芯片技術(shù)創(chuàng)新的需求也愈發(fā)迫切。

2016 年,《Nature》在 “超越摩爾(More than Moore)”一文中指出,摩爾定律已接近日薄西山,接下來硅晶技術(shù)的發(fā)展將不再以摩爾定律為中心,造出更好的芯片然后讓應(yīng)用跟進(jìn),而是從應(yīng)用出發(fā)來看需要怎樣的芯片支持,進(jìn)而容納更多細(xì)微復(fù)雜的創(chuàng)新方向。

而根據(jù) OpenAI 發(fā)布的分析數(shù)據(jù),自 2012 年以來,AI 訓(xùn)練對算力的需求每 3.43 個月翻一番,增速明顯快于摩爾定律。

▲自 2012 年以來算力需求增長超過 30 萬倍,而如果以摩爾定律的速度只會有 12 倍的增長(來源:OpenAI)

隨著以神經(jīng)網(wǎng)絡(luò)計算為主的 AI 應(yīng)用普及,一些研究人員意識到,深度學(xué)習(xí)可能是數(shù)十年來光學(xué)計算所等待的 “殺手級應(yīng)用”。

首先,光速快于電子速度,理想狀態(tài)下,光子芯片的計算速度能比電子芯片快約 1000 倍。同時,采用成熟半導(dǎo)體工藝技術(shù)的光子芯片,即可達(dá)到當(dāng)下需要的計算能力。

其次,光子計算消耗能量少,同等計算速度下,光子芯片的功耗僅為電子芯片的數(shù)百分之一,可以緩解 AI 創(chuàng)新所需的數(shù)據(jù)中心建設(shè)對環(huán)境的影響。

▲Lightmatter 聯(lián)合創(chuàng)始人兼 CEO 尼克 · 哈里斯在 2020 年 Hot Chips 上講解光子計算相較電子計算的延時、帶寬、功耗優(yōu)勢

最后,光計算技術(shù)具有并行計算的特點(diǎn),光波的頻率、波長、偏振態(tài)和相位等信息可以代表不同的數(shù)據(jù),且光路在交叉?zhèn)鬏敃r互不干擾。這些特性使得光子擅長做并行運(yùn)算,與多數(shù)計算過程花在 “矩陣乘法”上的人工神經(jīng)網(wǎng)絡(luò)相契合。

總體而言,光具有高計算速度、低功耗、低時延等特點(diǎn),且不易受到溫度、電磁場和噪聲變化的影響,在 AI 應(yīng)用領(lǐng)域,將光學(xué)技術(shù)與電子學(xué)結(jié)合,有望提供比傳統(tǒng)方法更好的速度和能效。

三、光子計算走向商業(yè)化

嗅到 AI 加速帶來的機(jī)會后,來自英、法、美、中的一些創(chuàng)業(yè)團(tuán)隊開始揚(yáng)帆起航,切入云端 AI 計算市場,其中不乏有初創(chuàng)公司得到來自科技巨頭及知名投資者的投資。

2013 年成立的英國創(chuàng)企 Optalysys,曾于 2015 年創(chuàng)建一個光計算原型,實(shí)現(xiàn)了約 320Gflops 的處理速度,且能效非常低。去年上半年,Optalysys 推出了入門級光學(xué)協(xié)處理器 FT: X2000,計劃出售給包括計算機(jī)制造、國防及航空航天領(lǐng)域的部分合作伙伴及早期客戶。

▲Optalysys 入門級光學(xué)協(xié)處理器 FT: X2000

初創(chuàng)公司 Fathom Computing 成立于 2014 年,其光子原型計算機(jī)在 2014 年時識別手寫數(shù)字的準(zhǔn)確率還只有 30% 左右,到 2018 年時已經(jīng)超過 90%。其創(chuàng)始人 Willam Andregg 稱,這是機(jī)器學(xué)習(xí)軟件首次使用激光脈沖電路而非電力進(jìn)行訓(xùn)練。不過近兩年,這家創(chuàng)企似乎并未公開更多進(jìn)展。

2018 年,成立兩年、總部位于法國巴黎的創(chuàng)企 LightOn 宣布,它已經(jīng)開始在歐洲的數(shù)據(jù)中心測試自己的光學(xué)處理單元(OPU)技術(shù)。2020 年 6 月,LightOn 發(fā)表的新論文顯示,其光學(xué)神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片在運(yùn)行基于 MNIST 手寫數(shù)字?jǐn)?shù)據(jù)集訓(xùn)練的模型時,學(xué)習(xí)率為 0.01,測試準(zhǔn)確率達(dá)到 95.8%;同一算法在 GPU 上的學(xué)習(xí)率為 0.001、準(zhǔn)確率達(dá) 97.6%。而該光學(xué)芯片的功耗效率要比 GPU 高出一個數(shù)量級。

論文鏈接:https://arxiv.org/pdf/2006.01475.pdf

當(dāng)然,名氣最盛的光子芯片創(chuàng)業(yè)者,當(dāng)屬曾在《自然 · 光子學(xué)》上發(fā)表封面文章、來自麻省理工學(xué)院的沈亦晨和尼克 · 哈里斯,兩人均在 2017 年成立光子芯片公司,都選擇 Mach-Zehnder 干涉儀光開關(guān)陣列(MZI)作為基礎(chǔ)計算單元,但具體的 MZI 結(jié)構(gòu)及陣列架構(gòu)有所不同。

沈亦晨在美國波士頓創(chuàng)辦 Lightelligence,在中國上海成立曦智科技,發(fā)展了跨國多元團(tuán)隊,是目前全球融資額最高的光子計算初創(chuàng)公司。

▲曦智科技創(chuàng)始團(tuán)隊

曦智科技在 2018 年獲得由百度風(fēng)投和美國半導(dǎo)體高管財團(tuán)領(lǐng)投的逾 1000 萬美元種子輪融資;2020 年 4 月完成由經(jīng)緯中國和中金資本旗下中金硅谷基金領(lǐng)投、百度風(fēng)投繼續(xù)追加投資的 2600 萬美元 A 輪融資;2020 年 7 月完成由和利資本投資的數(shù)千萬美元 A + 輪融資。

2019 年 4 月,曦智科技發(fā)布全球首款光子芯片原型板卡,在運(yùn)行 TensorFlow 處理 MNIST 數(shù)據(jù)集的測試中取得百倍以上的速度提升,準(zhǔn)確率接近電子芯片(97% 以上),而完成矩陣乘法所用的時間不到最先進(jìn)電子芯片的 1/100。曦智科技計劃從 2021 年起為 AI 云計算帶來高效的量產(chǎn)產(chǎn)品。

▲曦智科技開發(fā)的全球第一款光子芯片原型板卡

尼克 · 哈里斯在波士頓創(chuàng)辦的 Lightmatter 公司,則拿到了由谷歌風(fēng)投、星火資本、經(jīng)緯創(chuàng)投等投資的 3300 萬美元資金。

▲Lightmatter 聯(lián)合創(chuàng)始人 Darius Bunandar(左)、Nicholas Harris(中)、 Thomas Graham(右)

在 2020 年的芯片頂會 Hot Chips 上,Lightmatter 展示了其用于 AI 推理加速的測試芯片 Mars,該芯片利用硅光電學(xué)和 MEMS 技術(shù),通過由毫瓦級激光光源,為用光執(zhí)行矩陣向量乘法提供動力。相較傳統(tǒng)電子芯片,其計算速度提升數(shù)個量級。

Lightmatter 預(yù)計在 2021 年秋季推出這款測試芯片的首款商用產(chǎn)品,并為之打造了必要的軟件工具鏈。哈里斯稱其量產(chǎn)芯片在 BERT、Resnet-50 推理等工作負(fù)載上,能效將是 AI 芯片領(lǐng)導(dǎo)者 NVIDIA 旗艦芯片 A100 的 20 倍、吞吐量將是 A100 的 5 倍。

▲Lightmatter 測試芯片 Mars

看到《自然 · 光子學(xué)》上 MIT團(tuán)隊刊發(fā)的論文后,正在研究光電子的中國北京交通大學(xué) 2014 級博士生白冰獲得了新的啟發(fā),他與十余位來自清華、北大等北京 8 所高校的博士生們一起,在 2017 年在北京創(chuàng)立光子算數(shù)團(tuán)隊,開始推進(jìn)光子 AI 芯片商業(yè)化。

▲光子算數(shù)創(chuàng)始人兼 CEO 白冰

光子算數(shù)于 2018 年 9 月獲得臻云創(chuàng)投、英諾天使基金投資的天使輪融資、2019 年獲得由水木清華校友基金、常見投資、英諾天使基金、臻云創(chuàng)投等投資的 A 輪融資。

目前光子算數(shù)已研發(fā)可編程光子陣列芯片 FPPGA(Field Programmable Photonic Gate Arrays),并基于此與北京高校一起打造了面向服務(wù)器的光電混合 AI 加速計算卡,能完成包括機(jī)器學(xué)習(xí)推理、時間序列分析在內(nèi)的一些定制化加速任務(wù)。

其計算卡已于 2020 年交由服務(wù)器廠商客戶進(jìn)行測試,在不到 70W 的運(yùn)行功耗下,能做三四十路 1080P 視頻同步處理,混合精度下峰值算力接近 20TOPS,光部分為低精度,電部分為高精度。

▲光子算數(shù)的光電混合 AI 加速計算服務(wù)器應(yīng)用測試

從美國普林斯頓大學(xué)脫胎而出的美國光子 AI 芯片創(chuàng)企 Luminous Computing 成立相對晚一些。

該公司由首席策略官 Michael Gao、CEO Marcus Gomez 和 CTO Mitchell Nahmias 在 2018 年聯(lián)合創(chuàng)立,于 2019 年籌得來自微軟創(chuàng)始人比爾 · 蓋茨、Uber 首席執(zhí)行官 Dara Khosrowshahi 等知名投資者的 900 萬美元種子輪融資,2020 年又籌得由 Helios Capital 領(lǐng)投的 900 萬美元 A 輪融資。

Nahmias 在普林斯頓 PhD 期間的主要研究方向即是光子 AI 芯片。與 MIT團(tuán)隊不同,他們采用的并非 MZI,而是被稱為 Broadcast and Weight 的方案,相較 MZI 型方案多了光電轉(zhuǎn)換過程,且對相位不敏感。Nahmias 稱其光子集成電路可以取代 3000 塊 TPU 板,更加節(jié)省能耗,且能突破現(xiàn)有 AI 芯片傳輸數(shù)據(jù)的瓶頸。

▲Broadcast and Weight 方案的原理框架

這些創(chuàng)業(yè)團(tuán)隊的硬件均被設(shè)計為可以插入標(biāo)準(zhǔn)服務(wù)器和工作站中,可實(shí)現(xiàn)即插即用,并能與主流 AI 軟件配合使用,以滿足商用需求。

結(jié)語:光子計算踏上 AI 計算新征程

訓(xùn)練 AI 模型需要超高算力的計算機(jī)芯片,這使得芯片巨頭、初創(chuàng)公司之間展開一場圍繞 AI 計算的全新角逐。

如今光子計算仍處早期階段,站在這一全新計算賽道上的玩家們,幾乎沒有前路可以借鑒,他們正頂著技術(shù)挑戰(zhàn)、落地風(fēng)險等方面的壓力,試圖構(gòu)建起光子計算生態(tài),探索著改變計算的可能。

對于投資者來說,新興計算技術(shù)仍充滿風(fēng)險。但隨著世界對多元計算方式的需求增加,以光子計算、神經(jīng)擬態(tài)芯片、量子芯片等為代表的新興計算方法,正被寄予打破標(biāo)準(zhǔn)計算系統(tǒng)制約的期待。

這是件令人期待的事情,光學(xué)計算已經(jīng)在商業(yè)化道路上邁出了重要的一步,而一旦有初創(chuàng)公司解決工程化挑戰(zhàn)、取得落地商用的成功,光學(xué)計算革命的大門或?qū)⒂纱碎_啟。

參考

  • 《光子芯片研究進(jìn)展及展望》世界科學(xué);

  • 《MIT初創(chuàng)公司發(fā)布全球首個光子 AI 芯片原型!獨(dú)立光學(xué)計算硬件,龐大系統(tǒng)成功集成至常規(guī)板卡 | 獨(dú)家專訪》DeepTech 深科技;

  • 初創(chuàng)《光子 AI 芯片新玩家——Luminous Computing》光學(xué)小豆芽;

  • 《Alphabet invests in a start-up using beams of light on chips for super-fast A.I.》CNBC

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:AI,芯片

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知