ICC訊 據(jù)媒體報(bào)導(dǎo),英偉達(dá)計(jì)劃于 2024 年第二季度開始量產(chǎn)中國(guó)特供的AI 芯片,以遵守美國(guó)出口管制新規(guī),其中最強(qiáng)的型號(hào)就是 H20。英偉達(dá)對(duì)此拒絕置評(píng)。
除了 HGX H20 之外,英偉達(dá)還計(jì)劃推出另外兩款符合美國(guó)限制的 PCIe 芯片 ——L20 和 L2,但具體信息不詳。
消息人士透露,H20 原定于去年 11 月推出,但該計(jì)劃由于“服務(wù)器制造商在集成該芯片時(shí)遇到了問題”而被推遲。其中一位知情人士表示,初期產(chǎn)能十分有限,英偉達(dá)需要首先滿足主流客戶的訂單。
根據(jù) SemiAnalysis 分析,H20、L20 和 L2 包含英偉達(dá)大部分用于 AI 工作的功能特性,但為了遵守新規(guī)則,這三款新品在算力方面有所削減;不過在 LLM 推理中依然要比 H100 快 20% 以上。
IT之家查詢公開資料獲悉,NVIDIA H100 Tensor Core GPU 采用全新 Hopper 架構(gòu),基于臺(tái)積電 N4 工藝,集成了 800 億個(gè)晶體管。與上一代產(chǎn)品相比,可為多專家 (MoE) 模型提供高 9 倍的訓(xùn)練速度。
它配備第四代 Tensor Core 和 Transformer 引擎(FP8 精度),還具有高度可擴(kuò)展的 NVLink 互連技術(shù)(最多可連接達(dá) 256 個(gè) H100 GPU,相較于上一代采用 HDR Quantum InfiniBand 網(wǎng)絡(luò),帶寬高出 9 倍,帶寬速度為 900GB/s)等功能。