如今的網(wǎng)絡(luò)基礎(chǔ)設(shè)施市場相較于過去幾十年正變得更加活躍和有趣——而AI科技將推動其邁上新的高峰。
AI是數(shù)據(jù)的貪婪消費(fèi)者,無論是在超大規(guī)模云端、為大語言模型(LLM)的運(yùn)行提供支撐,還是在邊緣由私有基礎(chǔ)設(shè)施收集并安全地將數(shù)據(jù)傳輸至不同類型的目的地,乃至于多種多樣的應(yīng)用程序,總之市場對于網(wǎng)絡(luò)連接的需求正在迅速增加。
AI技術(shù)的有趣之處在于,它不僅會為網(wǎng)絡(luò)基礎(chǔ)設(shè)施硬件與軟件創(chuàng)造新的市場空間,而且還將憑借對數(shù)據(jù)的新興需求而推動數(shù)據(jù)中心乃至企業(yè)等傳統(tǒng)網(wǎng)絡(luò)市場的發(fā)展。
所有這一切,都讓幾十年來習(xí)慣于市場相對靜態(tài)的眾多網(wǎng)絡(luò)業(yè)務(wù)參與者莫名興奮,并為新時代的需求做好了準(zhǔn)備。自互聯(lián)網(wǎng)泡沫時代以來,思科就一直主導(dǎo)著整個網(wǎng)絡(luò)世界,估計在企業(yè)和數(shù)據(jù)中心網(wǎng)絡(luò)市場占據(jù)著50%至60%的市場份額。這種缺乏競爭動力的情況也讓市場變得異常沉悶。但近年來,這種情況開始發(fā)生變化,Arista Networks等競爭對手在超大規(guī)模云市場中把持著一定比例;瞻博網(wǎng)絡(luò)與HPE的合并計劃也帶來轉(zhuǎn)折,這對組合有望在網(wǎng)絡(luò)領(lǐng)域占據(jù)第二的位置。隨著瞻博網(wǎng)絡(luò)回憶其AI網(wǎng)絡(luò)發(fā)展路線圖,其將成為HPE麾下更具戰(zhàn)略意義的資產(chǎn)。與此同時,AI基礎(chǔ)設(shè)施芯片領(lǐng)域的領(lǐng)導(dǎo)者英偉達(dá)也圍繞AI優(yōu)化構(gòu)建起自己的完整網(wǎng)絡(luò)技術(shù)棧,在超大規(guī)模模型的AI工作負(fù)載方面領(lǐng)先于現(xiàn)有網(wǎng)絡(luò)供應(yīng)商。
網(wǎng)絡(luò)技術(shù)層面的創(chuàng)新也比比皆是。Arrcus和DriveNets等初創(chuàng)公司正在通過將硬件與云規(guī)模網(wǎng)絡(luò)操作系統(tǒng)(NOS)相互剝離的方式進(jìn)軍AI領(lǐng)域。Hedgehog和Aviz Networks則選擇利用開源云開放網(wǎng)絡(luò)軟件(SONiC)NOS以及Kubernetes等云工具。另外由于AI需要與更多數(shù)據(jù)建立更多連接,因此預(yù)計這波浪潮將推動多云網(wǎng)絡(luò)的發(fā)展,其中包括Alkira、Aryaka、Aviatrix、Graphiant、Itential和Prosimo等熱門初創(chuàng)公司。
這對市場來說無疑是件好事。網(wǎng)絡(luò)買家擁有著比以往更多的選擇,他們可以在多種方案之間靈活選擇,包括AI基礎(chǔ)設(shè)施領(lǐng)導(dǎo)者英偉達(dá)提供的完整網(wǎng)絡(luò)技術(shù)棧、與思科及HPE/瞻博等知名廠商合作的最佳網(wǎng)絡(luò)方案,還有各初創(chuàng)公司端出的創(chuàng)新解決方案大餐。
本文稍后會具體介紹市場競爭態(tài)勢,但讓我們首先分析一下AI對于網(wǎng)絡(luò)技術(shù)的要求究竟有何區(qū)別。
AI網(wǎng)絡(luò)為何能夠支撐起一片全新市場
AI的技術(shù)應(yīng)用有著多種多樣的具體形式,從規(guī)模龐大的云端大模型到其他用例,包括面向特定垂直情境的私有云小語言模型(SLM)等等。AI技術(shù)可用于訓(xùn)練通用聊天機(jī)器人,用以協(xié)助聊天和寫作,同時也能夠在基于定制數(shù)據(jù)開發(fā)藥物、或者優(yōu)化制造業(yè)車間等用例中發(fā)揮奇效。
首先需要了解的是,AI網(wǎng)絡(luò)與傳統(tǒng)網(wǎng)絡(luò)往往有著截然不同的要求。從通用計算到加速計算的轉(zhuǎn)變,需要新的軟件和分布式網(wǎng)絡(luò)架構(gòu)以閃電般的速度實現(xiàn)對數(shù)據(jù)的連接、移動和處理,期間延遲要始終保持在極低水平,且?guī)缀醪荒芙邮軘?shù)據(jù)丟失??傊?,AI工作負(fù)載對網(wǎng)絡(luò)的要求跟咖啡廳里的免費(fèi)Wi-Fi絕對不是同一種概念。
構(gòu)建龐大AI模型云的這波軍備競賽潮流,也刺激了市場對于專用處理器(包括SmartNIC、IPU和DPU)的需求,用以提高AI網(wǎng)絡(luò)的傳輸、安全和存儲功能與性能。此外還有更多領(lǐng)域值得關(guān)注:各網(wǎng)絡(luò)參與方會使用多種多樣的架構(gòu)、軟件和組件來構(gòu)建起更具經(jīng)濟(jì)效益的基礎(chǔ)設(shè)施來訪問AI模型,而這些模型又可能部署在邊緣或者云端。無論是連通超級計算機(jī)內(nèi)的芯片、互連AI集群中的服務(wù)器,還是將這些集群再接入網(wǎng)絡(luò)邊緣,原有技術(shù)都必須不斷發(fā)展以維持AI應(yīng)用所提出的嚴(yán)苛性能要求。
Futuriom最近耗費(fèi)幾個月時間,通過一份關(guān)于AI網(wǎng)絡(luò)的詳盡報告研究了最終用戶對于AI工作負(fù)載的要求??梢钥吹绞袌鲂螒B(tài)已經(jīng)迎來細(xì)分,具體可劃為兩大類別:
1)訓(xùn)練。ChatGPT、Llama、Claude AI乃至Mistral等大模型都離不開訓(xùn)練步驟,即通過反復(fù)運(yùn)行擁有數(shù)十億個參數(shù)的對抗神經(jīng)網(wǎng)絡(luò)來構(gòu)建出一套能夠識別單詞、圖像和聲音等的系統(tǒng)。這些大模型是AI應(yīng)用的基礎(chǔ),而小模型也同樣需要特殊的網(wǎng)絡(luò)解決方案。
2)推理。經(jīng)過微調(diào)的大模型或者小模型,能夠依托于特定數(shù)據(jù)集以建立AI應(yīng)用程序。由此產(chǎn)出的應(yīng)用程序可以傳遞信息、解決特定問題并完成任務(wù)目標(biāo)。例如,銀行可以微調(diào)Claude AI,通過來自多筆交易的匿名數(shù)據(jù)運(yùn)行模型,從而簡化ATM端的客戶服務(wù)。這通常被稱為AI的“前端”,因此需要將處理和網(wǎng)絡(luò)功能盡可能貼近客戶。
訓(xùn)練和推理兩大步驟,對于網(wǎng)絡(luò)市場提出了迥異于傳統(tǒng)/通用客戶端-服務(wù)器網(wǎng)絡(luò)乃至基于該范式的高性能計算(HPC)網(wǎng)絡(luò)的功能需求。
新的需求包括:更高的傳輸容量(擴(kuò)展至400 Gb/秒甚至800 Gb/秒)、更高的吞吐量、更低延遲、高可靠性、更快的存儲訪問、優(yōu)化集群與更高的計算利用率等等。
新一輪競賽已然啟動!
AI科技憑借其提高生產(chǎn)力與發(fā)布新型數(shù)字產(chǎn)品的巨大潛力,持續(xù)激發(fā)著商業(yè)市場的無窮想象。人們對于AI基礎(chǔ)設(shè)施建設(shè)的興奮之情也隨之油然而生。但由于收入和生產(chǎn)力增長的實現(xiàn)過程困難重重,整個過程往往需要經(jīng)歷多年、甚至是數(shù)十年的發(fā)展周期。在此期間,商業(yè)模式與架構(gòu)變化也將隨之展開。
據(jù)估計,AI網(wǎng)絡(luò)市場約占AI基礎(chǔ)設(shè)施總預(yù)算的10%到15%。盡管最初起點較低,但最終必然會達(dá)到數(shù)十億美元。Arista Networks公司CEO Jayshree Ullal估計,明年與AI建設(shè)直接相關(guān)的網(wǎng)絡(luò)收入將達(dá)到7.5億美元,而且具體數(shù)字將繼續(xù)保持快速增長。
到目前為止,AI網(wǎng)絡(luò)市場一直是InfiniBand與以太網(wǎng)兩大勢力之間的較量。其中英偉達(dá)憑借GPU與網(wǎng)絡(luò)連接方面的早期領(lǐng)先優(yōu)勢而全力支持InfiniBand技術(shù),該陣營的特色在于特殊的低延遲與無損特性。另一方面,以太網(wǎng)解決方案也在快速進(jìn)入市場,英偉達(dá)的Spectrum-X平臺亦采用了基于以太網(wǎng)的技術(shù)。隨著更多基于以太網(wǎng)的解決方案進(jìn)入市場,AI網(wǎng)絡(luò)將得到進(jìn)一步擴(kuò)展。小模型可以由各類垂直企業(yè)運(yùn)行,并不需要大模型那過于全面的完整功能。小模型甚至可以在私有數(shù)據(jù)中心及基礎(chǔ)設(shè)施上落地。考慮到這些場景中以太網(wǎng)的廣泛部署和普遍熟悉,這項技術(shù)有望從唾手可得的組件與規(guī)模經(jīng)濟(jì)中受益。
為此,以太網(wǎng)也在努力適應(yīng)AI網(wǎng)絡(luò)對于低延遲和無損通信的需求——從某種意義上講,它更像是既承接InfiniBand的優(yōu)點,同時發(fā)揮以太網(wǎng)所固有的經(jīng)濟(jì)性。眾多供應(yīng)商聯(lián)手成立了超級以太網(wǎng)聯(lián)盟(UEC),其任務(wù)是引入以太網(wǎng)標(biāo)準(zhǔn)升級,使其適用于要求苛刻且規(guī)模各異的AI環(huán)境?,F(xiàn)如今,以太網(wǎng)已經(jīng)適應(yīng)了融合以太網(wǎng)(RoCE)上的遠(yuǎn)程直接內(nèi)存訪問(RDMA)機(jī)制,在很大程度上符合AI工作負(fù)載的性能需求,而且發(fā)展的腳步一刻沒有停歇。如今大多數(shù)網(wǎng)絡(luò)供應(yīng)商都支持RoCE v2,其相較于RoCE引入了更多增強(qiáng)功能,包括DCQCN(數(shù)據(jù)中心量化擁塞通知),這是一項結(jié)合了PFC(優(yōu)先級流量控制)及ECN(顯式擁塞通知)的技術(shù),外加智能排隊與緩沖區(qū)管理能力。一部分供應(yīng)商還在RoCE v2中添加了AI與機(jī)器學(xué)習(xí),用以提高其整體性能。
開放式網(wǎng)絡(luò)也有很多值得一提的地方,客戶可以選擇通過混合/匹配供應(yīng)商N(yùn)OS和硬件來構(gòu)建自己的網(wǎng)絡(luò)。芯片制造商博通、Marvell和英特爾更是帶來強(qiáng)大的商用芯片產(chǎn)品組合,幫助網(wǎng)絡(luò)專家能夠利用現(xiàn)成硬件與他們選定的NOS(包括開源SONiC)相匹配。
各大知名網(wǎng)絡(luò)供應(yīng)商(包括Arista、思科、博通、瞻博、HPE和諾基亞等)已紛紛加入UEC以實現(xiàn)這些目標(biāo)。在這一領(lǐng)域,瞻博與HPE即將合并,由此建立的網(wǎng)絡(luò)部門將擁有更大的規(guī)模,預(yù)計將在市場份額層面成為僅次于思科的全球第二大勢力。
AI網(wǎng)絡(luò)也給初創(chuàng)公司帶來了更多機(jī)會。其中包括掌握基于SONiC技術(shù)的供應(yīng)商,例如Aviz Networks和Hedgehog;還有專注于立足自有NOS進(jìn)行橫向擴(kuò)展與系統(tǒng)拆分的初創(chuàng)公司,包括Arrcus和總部位于以色列的DriveNets,后者已經(jīng)在為通信市場提供超大規(guī)模路由解決方案。
在這個爆發(fā)式增長的領(lǐng)域,還有更多供應(yīng)商值得關(guān)注。例如,初創(chuàng)公司Enfabrica就為AI服務(wù)器提供計算到計算互連交換機(jī),充當(dāng)高帶寬“NIC交叉開關(guān)”,用以增強(qiáng)集群內(nèi)的計算、網(wǎng)絡(luò)與內(nèi)存連接。而Alkira、Aryaka、Aviatrix、Itential和Prosimo等多云網(wǎng)絡(luò)與網(wǎng)絡(luò)即服務(wù)(NaaS)供應(yīng)商則努力幫助組織更輕松地建立起安全網(wǎng)絡(luò)連接,用以在各AI源之間往來傳輸數(shù)據(jù)。
AI網(wǎng)絡(luò)熱潮還將推動光學(xué)市場的發(fā)展,因為這部分需求希望通過高速光學(xué)器件來支持傳輸帶寬的激增。在這方面,光學(xué)設(shè)備市場領(lǐng)導(dǎo)者Ciena在相干光學(xué)領(lǐng)域的地位為數(shù)據(jù)中心的互連提速帶來了希望。總部位于泰國的Fabrinet已經(jīng)成為AI投資界的寵兒,其針對AI應(yīng)用的光學(xué)元件增長強(qiáng)勁。同樣乘上東風(fēng)的還有其競爭對手Coherent和Lumentum。光纖制造商康寧公司股價近期上漲了10%,此前該公司曾發(fā)布一份盈利預(yù)告,將第二季度的銷售額預(yù)期上調(diào)了約2億美元。這在很大程度上源自數(shù)據(jù)中心在運(yùn)行AI類應(yīng)用程序時,內(nèi)部對于光纖連接的需求超出原本預(yù)期。在這一領(lǐng)域,思科也繼續(xù)占據(jù)著優(yōu)勢,其擁有自己的光學(xué)元件、能夠與Silicon One芯片平臺納入同一封裝。
縱觀整體市場態(tài)勢,我們將看到一場為了奪取AI基礎(chǔ)設(shè)施網(wǎng)絡(luò)領(lǐng)導(dǎo)地位而展開的規(guī)模龐大、充滿奇思妙想的商業(yè)混戰(zhàn),相信其間也將出現(xiàn)許多波折。總之網(wǎng)絡(luò)技術(shù)再次活力滿滿,請大家持續(xù)關(guān)注、安心吃瓜!