ICC訊(編譯:Nina)在5月底的第一財(cái)季財(cái)報(bào)電話會(huì)議上,Marvell總裁兼首席執(zhí)行官M(fèi)att Murphy詳述了人工智能(AI)為公司帶來的巨大機(jī)遇:
過去,我們認(rèn)為人工智能只是云計(jì)算中的眾多應(yīng)用之一,但它的重要性和機(jī)會(huì)已經(jīng)急劇增加。生成式人工智能(Generative AI)正在迅速推動(dòng)新的應(yīng)用,并改變我們?cè)瓶蛻舻耐顿Y優(yōu)先級(jí)。今天的人工智能工作負(fù)載需要真正龐大的數(shù)據(jù)集。
為了有效地處理這些數(shù)據(jù),人工智能數(shù)據(jù)中心的架構(gòu)與標(biāo)準(zhǔn)的云基礎(chǔ)設(shè)施有很大不同。人工智能中的主要構(gòu)建塊是一個(gè)包含多個(gè)加速器(如GPU)的系統(tǒng),而不是將雙插槽服務(wù)器作為機(jī)架中的核心元素。在大型部署中,數(shù)千個(gè)這樣的系統(tǒng)相互連接,形成一個(gè)數(shù)據(jù)中心大小的人工智能集群?;ミB這些系統(tǒng)所需的帶寬比標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施高出幾個(gè)數(shù)量級(jí)。
比如說,目前云數(shù)據(jù)中心中最新的雙CPU服務(wù)器可以驅(qū)動(dòng)高達(dá)200Gbps的IO,并包含支持該帶寬的網(wǎng)絡(luò)接口。相比之下,一個(gè)包含8個(gè)加速器的先進(jìn)人工智能系統(tǒng)可以驅(qū)動(dòng)近30TB的全雙工帶寬。這是將這些系統(tǒng)連接在一起所需帶寬的數(shù)百倍。請(qǐng)記住,領(lǐng)先的云數(shù)據(jù)中心將數(shù)千個(gè)這樣的系統(tǒng)連接到一個(gè)集群中,為其客戶提供最大的可擴(kuò)展性,每個(gè)這樣的系統(tǒng)都能夠驅(qū)動(dòng)數(shù)十TB的網(wǎng)絡(luò)流量。
為了在數(shù)據(jù)中心規(guī)模上創(chuàng)建盡可能大的集群規(guī)模,這些連接需要能夠在越來越遠(yuǎn)的距離上運(yùn)行。這些集群需要驚人數(shù)量的高帶寬連接,且所有這些高帶寬連接都需要在合理的功率范圍內(nèi)以超低延遲和高可靠性提供。這種連接最好由全光連接的基礎(chǔ)設(shè)施提供,利用數(shù)字信號(hào)處理和低延遲、高容量的光纖交換機(jī)。這就是為什么我們將人工智能視為PAM4光學(xué)DSP平臺(tái)的強(qiáng)大增長驅(qū)動(dòng)力。
值得注意的是,這些DSP與各種網(wǎng)絡(luò)協(xié)議兼容,如以太網(wǎng)、InfiniBand和其他專有解決方案,以實(shí)現(xiàn)最大的廣度和靈活性。展望未來,我們看到這一趨勢(shì)只會(huì)加速。盡管當(dāng)今最先進(jìn)的人工智能系統(tǒng)已經(jīng)在使用可用的最高帶寬接口,但您可能會(huì)驚訝地發(fā)現(xiàn),當(dāng)前人工智能實(shí)現(xiàn)的性能規(guī)模仍然受到網(wǎng)絡(luò)容量的限制。以我前面討論的8加速器AI系統(tǒng)為例。
目前,這些系統(tǒng)通常包含4個(gè)800Gbps外部連接光接口,提供每秒3.2TB的帶寬。但這是在一個(gè)能夠驅(qū)動(dòng)接近10倍帶寬的系統(tǒng)中實(shí)現(xiàn)的。為了彌補(bǔ)這一差距,我們預(yù)計(jì)隨著這些集群的規(guī)模擴(kuò)大,每個(gè)人工智能系統(tǒng)的光學(xué)接口數(shù)量將繼續(xù)增長。預(yù)計(jì)下一代加速器將具有更高的計(jì)算能力和更高的帶寬要求。
考慮到人工智能基礎(chǔ)設(shè)施的發(fā)展速度,技術(shù)更新周期為18到24個(gè)月,而標(biāo)準(zhǔn)基礎(chǔ)設(shè)施的更新周期為4年多??傊?,我們預(yù)計(jì)這些AI集群中的大量連接、更高速光學(xué)接口的日益采用和更快的更新周期將成為我們PAM4 DSP平臺(tái)的主要需求驅(qū)動(dòng)因素。事實(shí)上,在上一次電話財(cái)報(bào)會(huì)議中,我們指出,我們行業(yè)領(lǐng)先的800G DSP平臺(tái)的增長幾乎完全是由AI應(yīng)用驅(qū)動(dòng)的。我們還推出了業(yè)界首個(gè)1.6TB PAM4 DSP平臺(tái),將當(dāng)前一代的吞吐量提高了一倍。我們預(yù)計(jì)人工智能也將推動(dòng)這些產(chǎn)品的初步采用。
來源:Marvell官網(wǎng)
此外,由于服務(wù)提供商在多個(gè)區(qū)域數(shù)據(jù)中心部署了推理(Inference),這些數(shù)據(jù)中心需要通過數(shù)十公里的高帶寬、低延遲光鏈路連接。這項(xiàng)技術(shù)被稱為數(shù)據(jù)中心互連(DCI),而Marvell一直是該市場(chǎng)的先驅(qū)。我們?yōu)镈CI創(chuàng)建了業(yè)界首個(gè)可插拔模塊,目前我們最新的DCI產(chǎn)品線提供400Gbps的速率。
我們已經(jīng)看到,人工智能云數(shù)據(jù)中心正在推動(dòng)我們400ZR解決方案需求的大幅增長。我們DCI產(chǎn)品的另一個(gè)需求驅(qū)動(dòng)因素是,服務(wù)提供商正計(jì)劃在不同站點(diǎn)的集群加速器上實(shí)施下一代人工智能。人工智能也是數(shù)據(jù)中心內(nèi)交換需求的關(guān)鍵增長驅(qū)動(dòng)力。Marvell在低延遲、高容量交換機(jī)市場(chǎng)上的地位越來越高,我們看到市場(chǎng)對(duì)我們產(chǎn)品的強(qiáng)勁需求。
我們最近發(fā)布了下一代51.2T Teralynx 10以太網(wǎng)交換平臺(tái)。平臺(tái)基于我們從Innovium收購的低延遲架構(gòu),并建立在Marvell領(lǐng)先的5nm技術(shù)平臺(tái)上。我們看到客戶對(duì)這種產(chǎn)品非常感興趣。我們預(yù)計(jì)人工智能將引領(lǐng)行業(yè)從目前的12.8T交換機(jī)過渡到51.2T,使網(wǎng)絡(luò)帶寬翻四番。
我們預(yù)計(jì)51.2T的采用將成為網(wǎng)絡(luò)半導(dǎo)體市場(chǎng)的強(qiáng)勁增長動(dòng)力。綜上所述,Marvell已經(jīng)在人工智能網(wǎng)絡(luò)連接領(lǐng)域建立了領(lǐng)先地位。我們預(yù)計(jì),在人工智能投資不斷增長的推動(dòng)下,PAM4光學(xué)、DCI和以太網(wǎng)交換解決方案將出現(xiàn)巨大增長。也許,更令人興奮的是,Marvell有機(jī)會(huì)為我們的云優(yōu)化硅平臺(tái)解決人工智能計(jì)算問題。
正如前面所述,人工智能數(shù)據(jù)中心的架構(gòu)是根本不同的。在標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施中,大部分計(jì)算由CPU執(zhí)行,而加速器主要用于卸載任務(wù),如網(wǎng)絡(luò)和安全。相比之下,在人工智能基礎(chǔ)設(shè)施中,GPU等加速器是主要的計(jì)算引擎,而CPU用于控制目的,與標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施形成了180度的逆轉(zhuǎn)。根本性的差異導(dǎo)致人工智能基礎(chǔ)設(shè)施中加速器與CPU相比的比例更高,加速器現(xiàn)在是主要的計(jì)算機(jī)會(huì)。
鑒于此,再加上人工智能投資的急劇增加,正在推動(dòng)更高比例的增量計(jì)算TAM和云數(shù)據(jù)中心轉(zhuǎn)向加速器。今天,我們看到云客戶通過構(gòu)建自己的定制加速器來增強(qiáng)他們的人工智能產(chǎn)品,以滿足他們的特定需求。這是Marvell云優(yōu)化硅戰(zhàn)略的核心部分,我們現(xiàn)在看到,在人工智能基礎(chǔ)設(shè)施中,定制計(jì)算擁有更大、更快增長的機(jī)會(huì)。當(dāng)我們之前在2021年10月的投資者日上討論我們的云優(yōu)化硅機(jī)會(huì)和收入增長預(yù)期時(shí),我們預(yù)計(jì),一旦所有項(xiàng)目投入生產(chǎn),首批Design Win的收入將增長到每年8億美元。
這些Design包括各種加速計(jì)算應(yīng)用,包括人工智能、安全、存儲(chǔ)和視頻,以及一些網(wǎng)絡(luò)應(yīng)用。今時(shí)今日,當(dāng)我們看到由人工智能驅(qū)動(dòng)的同一組Design Win時(shí),我們對(duì)其在整個(gè)生命周期的總收入預(yù)期顯著增加。與此同時(shí),人工智能在整個(gè)生命周期收入中所占的相對(duì)比例從我們之前預(yù)測(cè)的約20%增加到今天的一半以上。因此,計(jì)算人工智能應(yīng)用現(xiàn)已成為Marvell云優(yōu)化硅平臺(tái)最大的收入來源和機(jī)會(huì)。
隨著人工智能需求的持續(xù)增長,我們看到,隨著時(shí)間的推移,這些云優(yōu)化Design Win的年收入將遠(yuǎn)遠(yuǎn)超過此前預(yù)計(jì)的8億美元。事實(shí)上,我們有許多與人工智能相關(guān)的定制硅產(chǎn)品,預(yù)計(jì)明年將投入批量生產(chǎn)。
除了在人工智能網(wǎng)絡(luò)連接方面的強(qiáng)勢(shì)地位外,我們相信Marvell已經(jīng)做好了應(yīng)對(duì)計(jì)算機(jī)會(huì)的準(zhǔn)備。在過去的幾個(gè)月里,我們花時(shí)間仔細(xì)繪制了人工智能的收入圖,以跟蹤它的進(jìn)展。鑒于我們已經(jīng)取得的巨大進(jìn)步,包括最近客戶需求的增長,我們預(yù)計(jì)人工智能應(yīng)用帶來的收入將加速增長。在2023財(cái)年,我們估計(jì)我們的人工智能收入約為2億美元,比前一年大幅增長。
該收入主要來自我們的PAM4光學(xué)和400ZR DCI產(chǎn)品。自3月初財(cái)報(bào)電話會(huì)議以來,這些產(chǎn)品的預(yù)訂量大幅增加。因此,我們預(yù)計(jì)Marvell的整體人工智能收入在2024財(cái)年至少會(huì)翻一番。展望2025財(cái)年,我們預(yù)計(jì)人工智能網(wǎng)絡(luò)連接將繼續(xù)實(shí)現(xiàn)強(qiáng)勁增長。
總的來說,我們預(yù)計(jì)明年我們的整體人工智能收入將至少再翻一番。換句話說,我們預(yù)測(cè)2023-2025財(cái)年人工智能收入的復(fù)合年增長率將超過100%。未來,我們預(yù)計(jì)涉及視頻和圖像的生成式人工智能實(shí)現(xiàn)將為HDD和閃存的整體存儲(chǔ)和EB增長提供推動(dòng)力。