在全光線路交換(OCS)互連的全光網(wǎng)絡(luò)支持下,分解式網(wǎng)絡(luò)為人工智能和機器學習帶來全新網(wǎng)絡(luò)設(shè)計。
云計算領(lǐng)域的超大規(guī)模企業(yè)和其他高性能計算 (HPC) 服務(wù)提供商必須構(gòu)建和拓展其計算平臺,以滿足客戶對人工智能應(yīng)用的需求,同時控制資本支出并降低能耗需求。特別是,所需的處理能力已經(jīng)提高了幾個數(shù)量級。
資源分解是降低成本和能耗的關(guān)鍵
不同于將這些平臺的構(gòu)建塊緊密地、但不靈活地捆綁在一個相對單一的平臺(如標準服務(wù)器機箱)中,而“分解”必要的組件或子系統(tǒng)的過程避免了效率低下和一些關(guān)鍵底層資源利用率不足的風險,更重要的是,如果簡單地 “架設(shè)和堆疊”更多服務(wù)器,則不可避免地出現(xiàn)過度地能耗。
在分解式架構(gòu)中,這些資源(CPU、內(nèi)存、存儲、各種形式的加速硬件)使用集成式高速數(shù)字收發(fā)器和基于適當傳輸介質(zhì)和交換技術(shù)的專用互連結(jié)構(gòu)進行互連,因此實現(xiàn)了靈活的組合。資源可以相互獨立地組合和適當擴展,滿足預(yù)期工作負載的需求。
靈活利用資源
資源分解原理如上圖所示。利用底層細粒度資源的公共池,所需資源以定制比率捆綁在一起,動態(tài)“組合”形成占比靈活的“裸金屬主機”硬件主機。在這種情況下,關(guān)鍵構(gòu)建塊是低級別的資源元素本身,例如 CPU、內(nèi)存、存儲和各種加速器(GPU、TPU、FPGAs)。
就可訪問和可消耗的資源塊的細粒度,可以定義不同的分解級別。
在細粒度最高的分解形式中,每個資源塊(例如一組 DRAM、一個 CPU、一個加速器)都擁有板載硬件,以便于其資源與互連平臺進行必要的高速、低延遲連接。
細粒度稍低的資源分解形式與當前硬件實施更加兼容,可被視為促進向完全分解平臺漸進過渡的一種方式。其中包括:覆蓋在分組交換結(jié)構(gòu)上的光互連和改變傳統(tǒng)服務(wù)器的用途。
疊加在分組交換架構(gòu)上的光互連
在這種應(yīng)用中,動態(tài)互連的計算資源組件僅限于加速器硬件。通過單模光模塊,它們可以使用專用光交換結(jié)構(gòu),靈活、直接地與其他主機中的同類組件互連,該專用光交換結(jié)構(gòu)有效地疊加在包交換網(wǎng)絡(luò)上,這些包交換網(wǎng)絡(luò)已經(jīng)將集群中主機之間互聯(lián)起來。
改變傳統(tǒng)服務(wù)器的用途
除單獨對加速卡進行互連外,還可以訪問傳統(tǒng)服務(wù)器群中已經(jīng)存在的更多資源,配備專業(yè)的 SerDes 處理硬件和固件以及高密度、高速光收發(fā)器的專用 PCIe 互連卡充當機箱中與 PCIe 連接的計算資源和光互連結(jié)構(gòu)之間的高性能網(wǎng)關(guān)。
互聯(lián)結(jié)構(gòu)
這是一種采用透明全光線路交換的光互連結(jié)構(gòu),該結(jié)構(gòu)提供了確定性、線路交換的固定帶寬數(shù)據(jù)路徑,非常適合硬件資源地互連,否則這些硬件資源將通過服務(wù)器主板上的專用線路或者PCI Express 等特定總線直連進行固定的低級互連。
與電交換網(wǎng)絡(luò)相比,它還能夠大幅降低網(wǎng)絡(luò)本身的功耗,顯著降低與數(shù)據(jù)路徑相關(guān)的延遲,以及更好地對網(wǎng)絡(luò)架構(gòu)進行縱向和橫向擴展。由于全光交換網(wǎng)絡(luò)對與分解式資源元素相關(guān)聯(lián)的光收發(fā)器之間的序列化數(shù)據(jù)流量的格式和線路速率具有固有的透明性,因此面為未來帶寬升級更加友好。
POLATIS DirectLight?
全光交換機等損耗最低的全光線路交換機允許用多達四級或四級以上的交換來構(gòu)建網(wǎng)絡(luò)架構(gòu),同時保持在使用分解式資源元素的典型光收發(fā)器的光損耗預(yù)算之內(nèi)。
分解計算的優(yōu)勢
可以靈活快速地組建硬件計算平臺
可將平臺擴展到適合在硬件運行的各種工作負載的可用資源類型的任何大小和比率。
在運行特定工作負載的過程中,可以隨資源消耗需求的變化調(diào)整平臺的大小。
可以暫時關(guān)閉不需要的資源,節(jié)省運營開支 (OPEX)。
借助分解網(wǎng)絡(luò)架構(gòu),運營商能夠:
為各種組件構(gòu)建塊選擇一流的供應(yīng)商。
使用那些僅支持他們所需特定功能的資源。
根據(jù)需要升級資源元素的不同類型和/或塊。