iFOC 2023回顧 | 訊石吳娜:AI驅(qū)動(dòng)下光模塊市場(chǎng)需求預(yù)測(cè)

訊石光通訊網(wǎng) 2023/9/18 13:53:13

 ICC訊   9月4-5日,第21屆訊石光研討會(huì)(iFOC 2023)圓滿舉辦!本屆會(huì)議吸引了來(lái)自近700家企業(yè)的1000多位嘉賓出席,聆聽(tīng)行業(yè)專家學(xué)者及技術(shù)骨干的干貨分享及巔峰對(duì)話,共享光通信行業(yè)的前沿技術(shù)及市場(chǎng)信息。

  訊石信息咨詢高級(jí)分析師吳娜在9月5日的主論壇《算力光網(wǎng)與光纖通信技術(shù)發(fā)展》上發(fā)表《AI驅(qū)動(dòng)下光模塊市場(chǎng)需求預(yù)測(cè)》的主題演講。

  訊石吳娜

  ChatGPT掀起生成式AI熱潮,國(guó)內(nèi)外企業(yè)紛紛加速AI布局。相關(guān)數(shù)據(jù)顯示,在過(guò)去8個(gè)月里,Hugging Face(正逐步成為全球最大的大模型庫(kù))上的預(yù)訓(xùn)練模型數(shù)量從此前積累的10萬(wàn)個(gè)增長(zhǎng)到了超過(guò)30萬(wàn)個(gè)。今年上半年,國(guó)內(nèi)發(fā)布的各類大模型數(shù)量超過(guò)100個(gè),其中參數(shù)在10億規(guī)模以上的大約80個(gè)。根據(jù)OpenAI的研究,AI訓(xùn)練所需算力增速超越硬件的摩爾定律。

  隨著GPT-3等大模型參數(shù)增長(zhǎng)超過(guò)GPU內(nèi)存的增長(zhǎng),HBM(高帶寬存儲(chǔ)器)成為AI服務(wù)器標(biāo)配。存儲(chǔ)龍頭SK海力士的HBM目前已發(fā)展到第五代HBM3E,最高每秒可以處理1.15TB的數(shù)據(jù),進(jìn)一步拉大內(nèi)存帶寬與網(wǎng)絡(luò)帶寬的差距。

  為解決網(wǎng)絡(luò)帶寬瓶頸,數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)需要變革。傳統(tǒng)樹(shù)形網(wǎng)絡(luò)拓?fù)渲?,帶寬逐層收斂,?shù)根處網(wǎng)絡(luò)帶寬要遠(yuǎn)小于各個(gè)葉子處所有帶寬的總和。而胖樹(shù)則更像真實(shí)的樹(shù),越到樹(shù)根,枝干越粗,即從葉子到樹(shù)根,網(wǎng)絡(luò)帶寬不收斂,可以提高網(wǎng)絡(luò)效率,加快訓(xùn)練速度。這是胖樹(shù)架構(gòu)能夠支撐無(wú)阻塞網(wǎng)絡(luò)的基礎(chǔ)。由于不做收斂,需要更多的光口來(lái)保證上下行速率一致,因此增加了光模塊數(shù)量。

  為縮小存儲(chǔ)帶寬和網(wǎng)絡(luò)帶寬的差距,英偉達(dá)引入了服務(wù)器間GPU All-to-all直連。在英偉達(dá)DGX H100集群中,不同服務(wù)器的GPU之間使用NVLink連接到NVSwitch進(jìn)行通信,因此新增了一套NVSwitch相連的光網(wǎng)絡(luò)系統(tǒng),每個(gè)服務(wù)器有18個(gè)OSFP和NVSwitch相連,大幅增加了光模塊用量。

  AI應(yīng)用掀起光連接需求新浪潮?,F(xiàn)階段,英偉達(dá)H100的需求火爆異常,訂單量已經(jīng)排滿到2024年。知情人士透露稱,英偉達(dá)目前計(jì)劃將旗艦H100顯卡的產(chǎn)量至少增加兩倍,到2024年H100的出貨量將達(dá)到150萬(wàn)至200萬(wàn)塊,比今年預(yù)期的50萬(wàn)塊大幅躍升。

  從業(yè)內(nèi)觀點(diǎn)來(lái)看:行業(yè)正處于與AI/ML部署相關(guān)的長(zhǎng)達(dá)十年的大趨勢(shì)的拐點(diǎn)。LC估計(jì),未來(lái)五年,AI集群應(yīng)用光收發(fā)器收入將占同期以太網(wǎng)光收發(fā)器總收入的38%。Coherent在其股東信函中估計(jì),未來(lái)五年內(nèi),800G、1.6T和3.2T數(shù)通收發(fā)器市場(chǎng)的CAGR將超40%;到2028年甚至可能更早,與AI相關(guān)的800G和1.6T數(shù)通收發(fā)器出貨量將占所有數(shù)通收發(fā)器出貨量的近40%。

  當(dāng)然新事物的誕生與興起,都伴隨著一些質(zhì)疑和不確定性。比如,2023年6月,ChatGPT訪問(wèn)量首次下降,有人認(rèn)為人們對(duì)ChatGPT的新奇感已漸漸消失;野村證券前分析師Richard Windsor表示,除非出現(xiàn)一個(gè)人們?cè)敢饷吭禄?0美元購(gòu)買AI應(yīng)用的大眾市場(chǎng),否則泡沫可能會(huì)迅速破滅,并波及相關(guān)企業(yè);由于不清楚生成式AI產(chǎn)品的擴(kuò)張速度,Meta等Hyperscaler對(duì)AI投資還存在不確定…..等等。

  但亞馬遜云科技 CEO Adam Selipsky也表示:“生成式AI目前處于非常早期的階段,就像十公里比賽剛跑出幾步……它將給世界帶來(lái)突破式的變革,且有可能是自互聯(lián)網(wǎng)誕生以來(lái)最大的變革。互聯(lián)網(wǎng)使知識(shí)普惠化,生成式AI將使人工智能技術(shù)普惠化?!?

  在演講的最后,吳娜總結(jié)道: AI應(yīng)用的興起與普及將驅(qū)動(dòng)數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)變革,從而促進(jìn)數(shù)據(jù)中心基礎(chǔ)設(shè)施投資增長(zhǎng)。AI應(yīng)用需求將為光模塊行業(yè)帶來(lái)多少機(jī)遇,讓我們拭目以待!

新聞來(lái)源:訊石光通訊網(wǎng)

相關(guān)文章