英偉達(dá)電話(huà)會(huì)：預(yù)計(jì)下一代芯片B100供不應(yīng)求，全球數(shù)據(jù)中心安裝量未來(lái)5年翻一番

  ICC訊 黃仁勛認(rèn)為，整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。

  他在當(dāng)?shù)貢r(shí)間周三召開(kāi)的英偉達(dá)財(cái)報(bào)電話(huà)會(huì)上表示，AI工廠作為一種新型的數(shù)據(jù)中心，將數(shù)據(jù)轉(zhuǎn)化為極具價(jià)值的“代幣”，比如人們?cè)谑褂肅hatGPT、Midjourney等服務(wù)中體驗(yàn)到的東西。

  黃仁勛表示，計(jì)算機(jī)行業(yè)正同時(shí)處于加速計(jì)算與生成式AI轉(zhuǎn)型的開(kāi)端，這將推動(dòng)全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量在未來(lái)5年內(nèi)翻一番，創(chuàng)造每年數(shù)千億美元的市場(chǎng)機(jī)會(huì)。

  考慮到廣闊的市場(chǎng)前景，黃仁勛稱(chēng)，2024年及以后，數(shù)據(jù)中心業(yè)務(wù)持續(xù)增長(zhǎng)的條件都非常優(yōu)秀，預(yù)計(jì)AI Enterprise未來(lái)會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。

  至于英偉達(dá)是否進(jìn)軍ASIC(專(zhuān)用芯片設(shè)計(jì))市場(chǎng)，黃仁勛并沒(méi)有做直接回答。

  英偉達(dá)CFO Colette Kress則在財(cái)報(bào)電話(huà)會(huì)議時(shí)表示，雖然當(dāng)前GPU的供應(yīng)正在改善，但需求仍然強(qiáng)勁，預(yù)計(jì)下一代產(chǎn)品的市場(chǎng)需求將超過(guò)供給，尤其是預(yù)計(jì)今年晚些時(shí)候發(fā)貨的新一代芯片B100。他表示，“構(gòu)建和部署AI解決方案已經(jīng)觸及幾乎每一個(gè)行業(yè)”，預(yù)計(jì)數(shù)據(jù)中心基礎(chǔ)設(shè)施規(guī)模將在五年內(nèi)翻番。

  當(dāng)?shù)貢r(shí)間周三公布的財(cái)報(bào)顯示，英偉達(dá)四季度營(yíng)收同比猛增265%至221億美元，高于分析師預(yù)期的204.1億美元，單季度收入甚至高于2021年全年。最大營(yíng)收來(lái)源數(shù)據(jù)中心部門(mén)，四季度營(yíng)收達(dá)到184億美元，同比暴增409%。

  英偉達(dá)營(yíng)收和利潤(rùn)已連續(xù)三個(gè)季度創(chuàng)歷史紀(jì)錄，2024全財(cái)年?duì)I收增長(zhǎng)126%。

  以下是英偉達(dá)第四季度財(cái)報(bào)電話(huà)會(huì)分析師問(wèn)答全文內(nèi)容：

  高盛Toshiya Hari：

  我的問(wèn)題是關(guān)于數(shù)據(jù)中心業(yè)務(wù)的，Jensen(黃仁勛)。

  很明顯，你知道你在這個(gè)行業(yè)做得非常好。我很好奇你對(duì)2024-2025日歷年的數(shù)據(jù)中心業(yè)務(wù)的預(yù)期，過(guò)去三個(gè)月內(nèi)有何變化?。

  希望您能談?wù)剶?shù)據(jù)中心領(lǐng)域中的一些新興方向，比如軟件、主權(quán)AI等。我認(rèn)為您已經(jīng)非常明確地表達(dá)了中長(zhǎng)期的問(wèn)題。

  最近有一篇關(guān)于英偉達(dá)可能進(jìn)軍ASIC(專(zhuān)用芯片設(shè)計(jì))市場(chǎng)的文章，這有任何可信度嗎?如果是這樣，英偉達(dá)在未來(lái)幾年內(nèi)在這個(gè)市場(chǎng)上競(jìng)爭(zhēng)和發(fā)展?

  黃仁勛：

  對(duì)于第一個(gè)問(wèn)題。

  我們一次性指引一個(gè)季度，但從根本上講，2024-2025年及以后的持續(xù)增長(zhǎng)環(huán)境非常好。理由是，我們正處于兩個(gè)全行業(yè)轉(zhuǎn)型的開(kāi)端，這兩個(gè)轉(zhuǎn)型都是全行業(yè)的。

  第一個(gè)是從通用計(jì)算到加速計(jì)算的轉(zhuǎn)變，如您所知，通用計(jì)算開(kāi)始失去動(dòng)力。你可以從云服務(wù)提供商(CSP)的擴(kuò)張和許多數(shù)據(jù)中心中看出，包括我們自己的通用計(jì)算中心，它可以將折舊從四年延長(zhǎng)到六年。但當(dāng)它不能像以前那樣從根本上顯著提高其數(shù)據(jù)處理量時(shí)，就沒(méi)有理由使用更多CPU進(jìn)行更新，因此必須加速一切。

  這是英偉達(dá)一直在開(kāi)創(chuàng)的。加速計(jì)算可以顯著提高LNG 效率，可以將數(shù)據(jù)處理成本下降20倍，這是一個(gè)巨大的數(shù)字。當(dāng)然，還有速度。

  這種速度令人難以置信，以至于我們今天實(shí)現(xiàn)了第二次全行業(yè)的轉(zhuǎn)型，稱(chēng)為生成式AI。

  是的，我們可以，我相信我們會(huì)在通話(huà)中談?wù)摵芏?，但?qǐng)記住，生成式AI是一種新的應(yīng)用。它正在賦能一種新的軟件生成方式，新類(lèi)型的軟件正在被創(chuàng)建。這是一種新的計(jì)算方式。您可以在傳統(tǒng)的通用計(jì)算設(shè)備上進(jìn)行生成式AI的任務(wù)。這一過(guò)程必須得到加速。

  第三，它正在賦能一個(gè)全新的行業(yè)，這是值得退一步審視的事情，與你最后一個(gè)關(guān)于主權(quán)AI的問(wèn)題有關(guān)。

  在某種意義上，整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。傳統(tǒng)上的數(shù)據(jù)中心僅僅被用來(lái)計(jì)算數(shù)據(jù)、存儲(chǔ)數(shù)據(jù)、為公司員工提供服務(wù)，現(xiàn)在，我們有了一種新型的數(shù)據(jù)中心，它專(zhuān)注于AI生成。我曾把它描述為AI工廠，本質(zhì)上利用原材料，也就是數(shù)據(jù)，用英偉達(dá)生產(chǎn)的這些AI超級(jí)計(jì)算機(jī)來(lái)改造數(shù)據(jù)，將其轉(zhuǎn)化為極具價(jià)值的“代幣”。

  這些“代幣”就是人們?cè)谡鸷车腃hatGPT、Midjourney或者現(xiàn)在搜索等服務(wù)中體驗(yàn)到的東西，所有這些推薦系統(tǒng)現(xiàn)在都由此增強(qiáng)。

  與此相關(guān)的所有超個(gè)性化服務(wù)，這些不可思議的初創(chuàng)公司，生成蛋白質(zhì)、化學(xué)物質(zhì)的數(shù)字生物學(xué)等等，所有這些“代幣”都是在一種非常專(zhuān)業(yè)化的數(shù)據(jù)中心內(nèi)生成的。我們稱(chēng)這種數(shù)據(jù)中心為AI超級(jí)計(jì)算機(jī)和AI生成工廠。

  但是我們看到的是多樣性，我們?cè)谶@一方面取得了許多進(jìn)步。第一，我們做的推理量已經(jīng)飆升，幾乎每一次你和ChatGPT互動(dòng)，我們都在做推理，每次你使用Midjourney時(shí)，我們也在做推理。每次你看到這些令人驚嘆的生成視頻，或者Runway、Firefly編輯的視頻，英偉達(dá)都在做推理，我們的推理業(yè)務(wù)擴(kuò)張巨大，大約在40%左右。

  訓(xùn)練量正在繼續(xù)增加，因?yàn)檫@些模型變得越來(lái)越大，推理量也在增長(zhǎng)，但我們也正在多樣化進(jìn)入新的行業(yè)。大型CSP仍在繼續(xù)擴(kuò)張。你可以從他們的資本支出和討論中看出來(lái)。企業(yè)軟件平臺(tái)正在部署AI服務(wù)，Adobe就是一個(gè)很好的例子，還有SAP和其他公司。

  還有，消費(fèi)者互聯(lián)網(wǎng)服務(wù)現(xiàn)在正在通過(guò)生成式AI來(lái)增強(qiáng)他們所有的服務(wù)，以創(chuàng)建更多超個(gè)性化的內(nèi)容。

  我們?cè)谡務(wù)摴I(yè)化的生成式AI?？偟膩?lái)說(shuō)，以汽車(chē)、金融服務(wù)和醫(yī)療保健為的首垂直行業(yè)，現(xiàn)在已經(jīng)達(dá)到了數(shù)十億美元的規(guī)模。

  當(dāng)然，還有主權(quán)AI。

  提出主權(quán)AI的原因是每個(gè)地區(qū)的語(yǔ)言、知識(shí)、歷史和文化不同，他們擁有自己的數(shù)據(jù)。

  他們想要利用自己的數(shù)據(jù)，數(shù)據(jù)訓(xùn)練AI模型，開(kāi)發(fā)數(shù)字化智能服務(wù)，創(chuàng)造屬于自己的AI體系。世界各地的數(shù)據(jù)都不一樣。

  因?yàn)檫@些數(shù)據(jù)對(duì)本國(guó)最有價(jià)值，因此各國(guó)會(huì)保護(hù)本國(guó)的數(shù)據(jù)，自己處理數(shù)據(jù)，自己開(kāi)發(fā)、提供AI服務(wù)，而不是依賴(lài)外部AI系統(tǒng)。

  所以我們看到，日本、加拿大、法國(guó)、我和許多其他地區(qū)正在建設(shè)主權(quán)AI基礎(chǔ)設(shè)施。因此，我的期望是，美國(guó)西部的經(jīng)驗(yàn)，肯定會(huì)在世界各地復(fù)制。未來(lái)這些AI代工廠將遍布每個(gè)行業(yè)、每個(gè)公司、每個(gè)地區(qū)。

  所以我認(rèn)為，生成式AI已經(jīng)在去年真正成為一個(gè)全新的應(yīng)用空間，一種全新的計(jì)算方式。一個(gè)全新的產(chǎn)業(yè)正在形成，這推動(dòng)了我們的增長(zhǎng)。

  摩根士丹利分析師Joe Moore：

  40%的收入來(lái)自推理業(yè)務(wù)，這比我預(yù)期的要大。這個(gè)比例一年前大概是什么水平，大模型相關(guān)的推理業(yè)務(wù)增長(zhǎng)了多少?英偉達(dá)是如何測(cè)量這一比例的?是否可靠?因?yàn)槲壹僭O(shè)在某些情況下，同一塊GPU既可以用來(lái)訓(xùn)練也能夠用來(lái)推理。

  黃仁勛：

  我倒過(guò)來(lái)說(shuō)，這個(gè)比例可能被低估了。讓我告訴你為什么。一年前，當(dāng)人們使用互聯(lián)網(wǎng)、瀏覽新聞、觀看視頻、聽(tīng)音樂(lè)、查看推薦產(chǎn)品時(shí)，面對(duì)的是數(shù)萬(wàn)億的數(shù)據(jù)，而假設(shè)你的手機(jī)只有三英寸，要將所有這些信息整合到如此小的空間中，需要強(qiáng)大的推薦系統(tǒng)。

  這些推薦系統(tǒng)過(guò)去全部基于CPU，但在最近轉(zhuǎn)向了深度學(xué)習(xí)和生成式AI，這些推薦系統(tǒng)直接受益于GPU的加速。

  它需要GPU來(lái)加速嵌入、近鄰搜索、重新排名，以及生成個(gè)性化推薦信息，所以現(xiàn)在的推薦系統(tǒng)運(yùn)行的每一步都需要GPU。如你所知，推薦系統(tǒng)是這個(gè)星球上最大的軟件引擎。世界上幾乎所有主要公司都需要運(yùn)行這些大型推薦系統(tǒng)。

  每當(dāng)你使用ChatGPT就是在推斷，每當(dāng)你聽(tīng)到中途和他們?yōu)橄M(fèi)者產(chǎn)生的東西的數(shù)量。當(dāng)你看到Getty時(shí)，我們用Getty和來(lái)自Adobe的Firefly所做的工作，這些都是生成模型。列表還在繼續(xù)。這些我一年前提到的都不存在，都是100%新的。

  每當(dāng)你使用ChatGPT時(shí)就是在做推理，Midjourney也是一樣。我們與Getty、Adobe、Firefly等的合作，以及這些應(yīng)用生成式模型，這些還在不斷增加。我剛才提到的所有這些，一年前都不存在，100%都是新的。

  Bernstein Research分析師Stacy Rasgon：

  你們預(yù)計(jì)下一代產(chǎn)品會(huì)面臨供不應(yīng)求，我想深入了解這方面的情況，導(dǎo)致下一代產(chǎn)品供應(yīng)緊張的原因是什么?既然GPU供應(yīng)正在放松，為什么下一代產(chǎn)品還會(huì)出現(xiàn)供不應(yīng)求的局面。

  你預(yù)計(jì)這種限制會(huì)持續(xù)多久?是否意味著整個(gè)2025年日歷年，下一代產(chǎn)品都會(huì)出現(xiàn)供應(yīng)短缺。

  黃仁勛：

  總的來(lái)說(shuō)，我們的供應(yīng)正在改善。我們的供應(yīng)鏈做得非常出色，從晶圓，封裝，存儲(chǔ)，所有的電源調(diào)節(jié)器，到收發(fā)器、網(wǎng)絡(luò)、電纜等我們所用到的組件，供應(yīng)都在改善。。如您所知，人們認(rèn)為英偉達(dá)GPU只是一塊芯片，但英偉達(dá)Hopper GPU由35000個(gè)零件組成，重70磅。這些東西是我們制造的非常復(fù)雜的東西，人們稱(chēng)之為AI超級(jí)計(jì)算機(jī)是有充分理由的。如果你看看數(shù)據(jù)中心的后面，系統(tǒng)，布線令人難以置信。它是世界上最密集、最復(fù)雜的網(wǎng)絡(luò)布線系統(tǒng)。

  我們的InfiniBand業(yè)務(wù)同比增長(zhǎng)了5倍。供應(yīng)鏈為我們提供了很大支持。所以總體來(lái)說(shuō)，供應(yīng)正在改善。我們預(yù)計(jì)需求仍會(huì)大于供給，我們會(huì)全力以赴。制程周期正在縮短，我們會(huì)繼續(xù)努力。

  然而，正如你所知，每當(dāng)我們開(kāi)發(fā)新產(chǎn)品時(shí)，它就會(huì)從零上升到非常大的數(shù)字，這不可能在一夜之間完成。一切都在加速，但它不會(huì)。因此，當(dāng)我們開(kāi)發(fā)出新一代產(chǎn)品后，無(wú)法在短期內(nèi)完全滿(mǎn)足需求，現(xiàn)在我們正在增加H200的供應(yīng)。

  我們也在擴(kuò)大構(gòu)建Spectrum-X平臺(tái)。這是我們進(jìn)入以太網(wǎng)世界的全新產(chǎn)品，目前已取得非常好的進(jìn)展。InfiniBand是AI專(zhuān)用系統(tǒng)的標(biāo)準(zhǔn)，我們?cè)谝蕴W(wǎng)的基礎(chǔ)新功能之上進(jìn)行了增強(qiáng)，如自適應(yīng)路由、擁塞控制、噪聲隔離或流量隔離，以便我們可以針對(duì)AI優(yōu)化以太網(wǎng)。因此，InfiniBand將是我們AI專(zhuān)用基礎(chǔ)設(shè)施。Spectrum-X將是我們AI優(yōu)化的網(wǎng)絡(luò)，而且正在加速。

  所以，需求大于供應(yīng)，這就是新產(chǎn)品通常會(huì)面臨的問(wèn)題。我們盡可能快地工作，以滿(mǎn)足需求。但總的來(lái)說(shuō)，我們的供應(yīng)正在非常順利地增加。

  TDCowen分析師Matt Ramsey：

  下午好，Jason，我的問(wèn)題由兩部分組成，涉及到Stacy剛剛提到的供不應(yīng)求的問(wèn)題。首先是，貴公司如何考慮產(chǎn)品分配以滿(mǎn)足客戶(hù)的需求，以及是否監(jiān)控產(chǎn)品庫(kù)存情況避免庫(kù)存積累。

  然后我想，Jason，我真的很想聽(tīng)聽(tīng)你和英偉達(dá)在客戶(hù)之間分配產(chǎn)品的想法，許多客戶(hù)競(jìng)相搶奪芯片，從行業(yè)到小型初創(chuàng)公司，從醫(yī)療保健領(lǐng)域到政府。這是一項(xiàng)非常獨(dú)特的技術(shù)活，你正在推動(dòng)它，我非常想聽(tīng)聽(tīng)你如何思考如何公平分配，才能在保障公司利益的同時(shí)兼顧整個(gè)行業(yè)利益。

  黃仁勛：

  首先回答你關(guān)于我們?nèi)绾闻c客戶(hù)合作搭建GPU實(shí)例以及我們的分配流程的問(wèn)題。

  我們合作的客戶(hù)一直是多年來(lái)的長(zhǎng)期合作伙伴，我們一直在協(xié)助他們?cè)谠贫瞬渴鹨约皟?nèi)部設(shè)置。許多服務(wù)提供商同時(shí)運(yùn)營(yíng)多個(gè)產(chǎn)品，以滿(mǎn)足終端用戶(hù)各種需求以及內(nèi)部需求。

  當(dāng)然，他們會(huì)提前規(guī)劃新集群所需配置，我們不僅討論當(dāng)前的Hopper架構(gòu)，也幫助他們了解下一波產(chǎn)品，聽(tīng)取他們的興趣和需求。所以他們的采購(gòu)和構(gòu)建內(nèi)容是一個(gè)持續(xù)變化的過(guò)程。但是我們建立的關(guān)系和他們對(duì)構(gòu)建復(fù)雜性的理解確實(shí)幫助了我們進(jìn)行分配，并且兩者都有助于我們與他們的溝通。

  首先，我們的CSP對(duì)產(chǎn)品路線圖和迭代有非常清晰的了解。我們與他們的透明溝通讓其對(duì)產(chǎn)品放置時(shí)間和地點(diǎn)很有信心。他們了解產(chǎn)品的時(shí)間線和大致供應(yīng)量。在分配上，我們盡量公平分配，避免不必要分配。如你之前說(shuō)的，如果數(shù)據(jù)中心沒(méi)準(zhǔn)備好，分配沒(méi)有任何意義。沒(méi)有什么比閑置資源公平分配和避免不必要的分配更困難的了。

  關(guān)于你問(wèn)到的終端市場(chǎng)，我們有一個(gè)優(yōu)秀的生態(tài)系統(tǒng)，包括OEM、ODM、CSP和非常重要的終端市場(chǎng)。

  英偉達(dá)真正的獨(dú)特之處是我們?yōu)楹献骰锇楹涂蛻?hù)搭橋。我們將云服務(wù)供應(yīng)商和代工與醫(yī)療、金融、AI開(kāi)發(fā)者、大語(yǔ)言模型開(kāi)發(fā)者、自動(dòng)駕駛公司、機(jī)器人公司等客戶(hù)連接。正在出現(xiàn)的各種機(jī)器人創(chuàng)業(yè)公司，從倉(cāng)儲(chǔ)機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、各種非常有趣的機(jī)器人公司、農(nóng)業(yè)機(jī)器人公司

  到外科到人形機(jī)器人。所有這些創(chuàng)業(yè)公司和大公司都是構(gòu)建在我們平臺(tái)之上。我們直接支持他們。通常，我們可以通過(guò)分配給云服務(wù)供應(yīng)商并同時(shí)將客戶(hù)引入云服務(wù)供應(yīng)商來(lái)實(shí)現(xiàn)雙贏。

  獨(dú)特的地方在于我們帶來(lái)了我們的客戶(hù)，我們帶來(lái)了我們的合作伙伴、CSP和Oem，我們?yōu)樗麄儙?lái)了客戶(hù)。生物公司、醫(yī)療保健公司、金融服務(wù)公司、AI開(kāi)發(fā)商、大型語(yǔ)言模型開(kāi)發(fā)商、自動(dòng)駕駛汽車(chē)公司、機(jī)器人公司。只有一大批機(jī)器人公司正在崛起。他們的倉(cāng)庫(kù)機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、農(nóng)業(yè)機(jī)器人……各種非常有趣的機(jī)器人公司，所有這些初創(chuàng)公司都在幫助醫(yī)療保健、金融服務(wù)和汽車(chē)等領(lǐng)域的大公司在英偉達(dá)平臺(tái)上工作。我們直接支持他們。通常，我們可以通過(guò)分配給CSP并同時(shí)將客戶(hù)引入CSP來(lái)實(shí)現(xiàn)雙贏。

  所以這個(gè)生態(tài)系統(tǒng)，你說(shuō)得對(duì)，它是充滿(mǎn)活力的，但在它的核心，我們希望公平分配，避免資源浪費(fèi)，尋找連接合作伙伴和終端用戶(hù)的機(jī)會(huì)，我們一直在尋找這些機(jī)會(huì)。

  瑞銀分析師Timothy R.Curry：

  非常感謝。我想問(wèn)一下你們?nèi)绾螌⒎e壓訂單轉(zhuǎn)化為收入。顯然，您的產(chǎn)品交貨時(shí)間已經(jīng)大大縮短了，但Colette沒(méi)有談?wù)搸?kù)存購(gòu)買(mǎi)承諾，但如果我把加上你們獲得的庫(kù)存采購(gòu)承諾和預(yù)付支持供應(yīng)，你知道的，你的供應(yīng)總和，實(shí)際上有點(diǎn)下降。我們應(yīng)該如何解讀這種下降?是因?yàn)榻回洉r(shí)間縮短，英偉達(dá)不需要對(duì)供應(yīng)商作出那么大的財(cái)務(wù)承諾了嗎?還是英偉達(dá)正在接近填補(bǔ)訂單和積壓訂單的平衡狀態(tài)?

  Colette Kress：

  是的，讓我強(qiáng)調(diào)一下我們對(duì)供應(yīng)的三個(gè)不同方面的看法。你說(shuō)得對(duì)，我們手頭的庫(kù)存，考慮到我們正在進(jìn)行的分配，我們正在努力，因?yàn)樨浧啡霂?kù)后立即發(fā)給客戶(hù)。我認(rèn)為客戶(hù)會(huì)贊賞我們滿(mǎn)足他們需要的交貨時(shí)間表的能力。

  其次，我們的購(gòu)買(mǎi)承諾有很多不同組成部分，不僅包括我們生產(chǎn)所需的組件，也包括我們滿(mǎn)足產(chǎn)能所需的組件，需求時(shí)間長(zhǎng)度不一，其中一些可能會(huì)持續(xù)兩個(gè)季度，但其中一些可能會(huì)持續(xù)多年。

  預(yù)付款也是一樣，它們都是為了確保我們?cè)趲准夜?yīng)商那里獲得未來(lái)所需的備用產(chǎn)能。

  所以不應(yīng)該過(guò)分解讀這些大致相同的數(shù)字，因?yàn)槲覀冋谔岣吖?yīng)量。所有這些都有不同的時(shí)間跨度，因?yàn)槲覀冇袝r(shí)不得不提前很長(zhǎng)時(shí)間購(gòu)買(mǎi)東西或?yàn)槲覀兘a(chǎn)能。

  Melius Research分析師Ben Reitzes：

  好的，謝謝。恭喜取得了如此亮眼的成績(jī)。Colette，我想談?wù)勀銓?duì)于毛利率的看法，它們回到了75%左右的水平，這是因?yàn)樾庐a(chǎn)品中HBM內(nèi)存含量嗎?您認(rèn)為還有其他原因嗎?非常感謝。

  Colette Kress：

  是的，感謝您的問(wèn)題。正如我們?cè)陂_(kāi)場(chǎng)白中強(qiáng)調(diào)的，我們第四季度的業(yè)績(jī)和第一季度的展望都比較特殊。這兩個(gè)季度的毛利率也都是獨(dú)特的，因?yàn)樗鼈兌际芤嬗诠?yīng)鏈中的組件成本，這種益處覆蓋了我們的計(jì)算和網(wǎng)絡(luò)產(chǎn)品，以及制造過(guò)程的多個(gè)階段。

  展望未來(lái)，我們預(yù)測(cè)本財(cái)年的毛利率將回歸到75%左右的水平，回到我們?cè)诘谒募径群偷谝患径确逯抵暗乃?。所以真正?qū)動(dòng)未來(lái)全年的毛利率的是我們產(chǎn)品組合，這將是最重要的驅(qū)動(dòng)因素。這些就是驅(qū)動(dòng)毛利率的主要因素。

  Cantra Fitzgerald分析師CJ Muse：

  下午好，Jason，GPU算力在過(guò)去十年提升了100萬(wàn)倍，面對(duì)這種飛速提升，英偉達(dá)客戶(hù)如何看待他們今天所做的英偉達(dá)投資的長(zhǎng)期可用性。今天用于訓(xùn)練的系統(tǒng)未來(lái)是否還可以用于推理。你認(rèn)為這會(huì)如何發(fā)展?

  黃仁勛：

  謝謝你的問(wèn)題。是的，真正酷的地方在于，我們能夠極大地提升性能，那是因?yàn)槲覀兊钠脚_(tái)有兩大特點(diǎn)：一是加速的能力，二是可編程性。

  英偉達(dá)是唯一一個(gè)從最初就始終如一的架構(gòu)，從最開(kāi)始的卷積神經(jīng)網(wǎng)絡(luò)，Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton首次提出的AlexNet，到RNN、LSTM、RLS，再到Transformers，比如Vision Transformers、Multi-modality Transformers 等，每一個(gè)AI的變種模型，我們都能支持它們，優(yōu)化我們的堆棧，并將其部署到我們安裝的用戶(hù)設(shè)備基礎(chǔ)上。

  這真的是最了不起的地方。一方面，我們可以發(fā)明新的架構(gòu)和技術(shù)，像我們的Tensor Core(張量核心)，張量核心轉(zhuǎn)換引擎，改進(jìn)數(shù)據(jù)格式和處理結(jié)構(gòu)，就像在Tensor Core中所做的工作那樣。

  同時(shí)，我們也支持原有的安裝基礎(chǔ)。因此，我們的所有新軟件算法創(chuàng)新，以及行業(yè)的所有新模型創(chuàng)新，都可以在一個(gè)基礎(chǔ)上運(yùn)行。另一方面，當(dāng)我們看到革命性的東西，例如轉(zhuǎn)換器，我們可以創(chuàng)建全新的東西，像Hopper轉(zhuǎn)換引擎，并在未來(lái)進(jìn)行應(yīng)用。

  因此，我們同時(shí)擁有將軟件引入安裝基礎(chǔ)并不斷改進(jìn)的能力，因此隨著時(shí)間的推移，我們的客戶(hù)安裝基礎(chǔ)隨著我們的新軟件而豐富。另一方面，新技術(shù)創(chuàng)造了革命性的能力。

  如果未來(lái)一代在LLM上出現(xiàn)突破，不要感到驚訝。這些突破，其中一些是軟件方面的，因?yàn)樗鼈冞\(yùn)行在CUDA平臺(tái)上，提供給安裝基礎(chǔ)。所以我們帶著所有人一起前進(jìn)。一方面，我們?nèi)〉镁薮笸黄?另一方面，我們支持原有基礎(chǔ)。

  Piper Sandler分析師Harsh Kumar：

  我想談?wù)動(dòng)ミ_(dá)的軟件業(yè)務(wù)，很高興聽(tīng)到它的營(yíng)收超過(guò)10億美元。但我希望，Jensen或Collatif，幫助我們稍微拆解一下，以便我們更好地了解該業(yè)務(wù)的增長(zhǎng)源。

  黃仁勛：

  讓我退后一步解釋?zhuān)ミ_(dá)在軟件中非常成功的根本原因。

  首先，你知道，加速計(jì)算真正在云端蓬勃發(fā)展。CSP有非常大的工程團(tuán)隊(duì)， 我們與他們合作的方式允許他們運(yùn)營(yíng)和管理自己的業(yè)務(wù)。。如果有任何問(wèn)題，我們會(huì)派出大型團(tuán)隊(duì)為他們服務(wù)。他們的工程團(tuán)隊(duì)直接與我們的工程團(tuán)隊(duì)對(duì)接，改進(jìn)、修復(fù)、維護(hù)、修復(fù)復(fù)雜的加速計(jì)算軟件棧。

  加速計(jì)算和通用計(jì)算截然不同，并不是從C++這樣的程序開(kāi)始，編譯后在所有CPU上運(yùn)行。從數(shù)據(jù)處理、結(jié)構(gòu)化數(shù)據(jù)與所有圖像、文本、PDF這樣的非結(jié)構(gòu)化數(shù)據(jù)，到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音、大語(yǔ)言模型，再到所有推薦系統(tǒng)，每個(gè)領(lǐng)域都需要不同的軟件棧。這就是為什么英偉達(dá)有數(shù)百個(gè)軟件庫(kù)的原因。沒(méi)有軟件就無(wú)法開(kāi)拓新市場(chǎng)，無(wú)法啟用新的應(yīng)用。軟件對(duì)加速計(jì)算來(lái)說(shuō)是基礎(chǔ)。

  如您所知，加速計(jì)算與通用計(jì)算非常不同。你不是從C++這樣的程序開(kāi)始的。你編譯它，一切都在你的所有CPU上運(yùn)行。每個(gè)領(lǐng)域所需的軟件堆棧從數(shù)據(jù)處理、SQL數(shù)據(jù)庫(kù)、結(jié)構(gòu)數(shù)據(jù)與所有圖像、文本和PDF(非結(jié)構(gòu)化)到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音、兩個(gè)大型語(yǔ)言模型、所有推薦系統(tǒng)，所有這些都需要不同的軟件堆棧。

  這就是英偉達(dá)擁有數(shù)百個(gè)庫(kù)的原因。如果你沒(méi)有軟件，你就無(wú)法打開(kāi)新市場(chǎng)。如果您沒(méi)有軟件，則無(wú)法打開(kāi)和啟用新應(yīng)用程序。軟件對(duì)于加速計(jì)算至關(guān)重要。

  這是加速計(jì)算和通用計(jì)算之間的根本區(qū)別，大多數(shù)人花了很長(zhǎng)時(shí)間才理解，現(xiàn)在人們明白，軟件在我們與CSP合作的方式中非常關(guān)鍵。這非常簡(jiǎn)單，我們的大型團(tuán)隊(duì)正在與他們的大型團(tuán)隊(duì)合作。然而，現(xiàn)在生成式AI使每個(gè)企業(yè)和企業(yè)軟件公司都能擁抱加速計(jì)算，擁抱加速計(jì)算現(xiàn)在是必需的，僅僅依靠通用計(jì)算提高處理量已不再可行。所有這些企業(yè)軟件公司和企業(yè)公司都沒(méi)有大型工程團(tuán)隊(duì)來(lái)維護(hù)和優(yōu)化他們的軟件堆棧，以在全球所有云和私有云以及本地運(yùn)行。

  因此，我們將對(duì)他們所有的軟件堆棧進(jìn)行管理、優(yōu)化、修補(bǔ)、調(diào)整，優(yōu)化安裝基礎(chǔ)。我們將它們?nèi)萜骰轿覀兊亩褩Ｖ校覀兎Q(chēng)之為英偉達(dá)AIEnterprise。我們將其推向市場(chǎng)的方式是將英偉達(dá)AIEnterprise視為運(yùn)行時(shí)，就像操作系統(tǒng)一樣。這是一個(gè)人工智能操作系統(tǒng)。我們每年對(duì)每個(gè)GPU收取4500美元。我的猜測(cè)是，世界上的每一家企業(yè)，每一家在所有云和私有云中部署軟件的軟件企業(yè)公司。首先，我們將在英偉達(dá)AI企業(yè)上運(yùn)行，尤其是，你知道，顯然是為了我們的GPU。因此，隨著時(shí)間的推移，這可能會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。我們有一個(gè)很好的開(kāi)始。Collette提到它已經(jīng)以10億美元的速度增長(zhǎng)，我們才剛剛開(kāi)始。

  黃仁勛閉會(huì)總結(jié)：

  計(jì)算機(jī)行業(yè)正在同時(shí)向兩個(gè)方向轉(zhuǎn)變 (加速計(jì)算與生成式 AI)。

  價(jià)值數(shù)萬(wàn)億美元的數(shù)據(jù)中心安裝基礎(chǔ)正在從通用計(jì)算轉(zhuǎn)向加速計(jì)算。每個(gè)數(shù)據(jù)中心都將得到加速，使世界能夠在提高處理量來(lái)滿(mǎn)足計(jì)算需求的同時(shí)，管理成本和能源。英偉達(dá)實(shí)現(xiàn)了令人難以置信的加速，它實(shí)現(xiàn)了一種全新的計(jì)算范式，即生成式 AI，其中軟件可以學(xué)習(xí)、理解和生成從人類(lèi)語(yǔ)言到生物結(jié)構(gòu)和 3D 世界的任何信息。

  我們現(xiàn)在正處于一個(gè)新興行業(yè)的開(kāi)端，專(zhuān)用AI數(shù)據(jù)中心處理大量原始數(shù)據(jù)以將其提煉成數(shù)字智能，就像上一場(chǎng)工業(yè)革命的交流發(fā)電廠。英偉達(dá)AI超級(jí)計(jì)算機(jī)實(shí)際上是這場(chǎng)工業(yè)革命的AI生成工廠。

  每個(gè)公司和每個(gè)行業(yè)從根本上來(lái)說(shuō)都是建立在其專(zhuān)有的商業(yè)智能之上，在未來(lái)，他們專(zhuān)有的生成式AI啟動(dòng)了一個(gè)全新的投資周期，以構(gòu)建下一個(gè)萬(wàn)億美元的AI生成工廠基礎(chǔ)設(shè)施。

  我們相信，這兩大趨勢(shì)將推動(dòng)未來(lái) 5 年內(nèi)使全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量翻一番，每年創(chuàng)造數(shù)千億美元的市場(chǎng)機(jī)會(huì)。這種新的人工智能基礎(chǔ)設(shè)施將開(kāi)辟一個(gè)今天不可能實(shí)現(xiàn)的全新應(yīng)用世界。

  我們與超大規(guī)模云提供商和消費(fèi)者互聯(lián)網(wǎng)公司一起開(kāi)啟了人工智能之旅?，F(xiàn)在，從汽車(chē)、醫(yī)療保健、金融服務(wù)到工業(yè)電信、媒體和娛樂(lè)，每個(gè)行業(yè)都參與其中。英偉達(dá)的全棧計(jì)算平臺(tái)具有特定行業(yè)的應(yīng)用框架以及龐大的開(kāi)發(fā)者和合作伙伴生態(tài)系統(tǒng)，為我們提供了速度、規(guī)模和影響力，幫助每個(gè)公司、每個(gè)行業(yè)的公司成為人工智能公司。

  在下個(gè)月于圣何塞舉行的GTC上，我們有很多東西要與您分享，所以請(qǐng)務(wù)必加入我們。我們期待向您介紹下季度的最新進(jìn)展。