中興通訊總裁徐子陽：匠心筑基，開放共贏

  ICC訊 6月26日，2024年上海世界移動通信大會啟幕，中興通訊總裁徐子陽應(yīng)邀出席同日舉辦的“人工智能先行”主題演講和以“5G-A×AI”為主題的GTI國際產(chǎn)業(yè)大會（上海），分享中興通訊在人工智能浪潮下的數(shù)智實踐與創(chuàng)新。

  在“人工智能先行”主題演講中，徐子陽以《匠心筑基，開放共贏》為題展開分享。他表示，當(dāng)前全球已經(jīng)進入AI驅(qū)動的產(chǎn)業(yè)革命，但除了幻覺、安全和倫理等問題外，生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標準化及商業(yè)應(yīng)用等挑戰(zhàn)。對于AI進階，中興通訊秉承開放解耦、以網(wǎng)強算、訓(xùn)推并舉的核心主張，同時以客戶價值為核心，提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場景智算解決方案，以硬實力筑基，以軟實力啟智，靈活實現(xiàn)與客戶能力的優(yōu)勢互補和強強協(xié)作，賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求，為經(jīng)濟高質(zhì)量發(fā)展注入源源不斷的動能，共筑AI時代的美好未來。

  在GTI國際產(chǎn)業(yè)大會（上海）中，徐子陽參加GTI-GSMA 5G-A×AI合作簽約儀式并圍繞5G-A×AI這一主題，以《算網(wǎng)進階，智創(chuàng)未來》為題發(fā)表演講。他結(jié)合當(dāng)下核心挑戰(zhàn)、解決方案和實踐案例，闡釋了傳統(tǒng)工業(yè)化向新型工業(yè)化的升級路徑，最重要的就是：結(jié)合數(shù)智技術(shù)在底層的核心突破、基礎(chǔ)設(shè)施的效率和能力升級、與行業(yè)Know-How的深度融合，加速數(shù)字和物理世界的交融，提升生產(chǎn)和交易效率，并構(gòu)建敏捷和自適應(yīng)組織，在不確定的未來中行穩(wěn)致遠。中興通訊主張圍繞數(shù)字化、網(wǎng)絡(luò)化、智能化和低碳化四個緯度，突破現(xiàn)階段核心挑戰(zhàn)或掣肘，承前啟后繼往開來。中興通訊將始終秉持創(chuàng)新引領(lǐng)、多樣互補、開放利他的原則，以“開放解耦、以網(wǎng)強算、以智升維、以綠奠基” 全力支持產(chǎn)業(yè)鏈健康可持續(xù)發(fā)展，繁榮數(shù)字經(jīng)濟。

  以下為徐子陽《匠心筑基，開放共贏》主旨演講全文：

  應(yīng)勢而變，賦能智能進階

  過去的一年多，大模型和生成式AI為數(shù)智浪潮推波助瀾，技術(shù)高速迭代，產(chǎn)品層出不窮，新場景和新業(yè)態(tài)蓄勢待發(fā)。雖然生成式AI依然處于發(fā)展初期，但大家已經(jīng)有普遍共識，即全球已經(jīng)進入AI驅(qū)動的產(chǎn)業(yè)革命，AI將對生產(chǎn)生活的方方面面產(chǎn)生深遠的影響和變革。人工智能將深刻重塑全球經(jīng)濟格局。業(yè)界咨詢機構(gòu)預(yù)測，至2030年，AI將顯著推動中國GDP增長26%，北美GDP增長14.5%，預(yù)計為全球貢獻約10.7萬億美元的經(jīng)濟增長，占據(jù)全球影響的近七成。這一變革將為零售、金融服務(wù)和醫(yī)療保健等行業(yè)帶來前所未有的商業(yè)機遇。

  除了幻覺、安全和倫理等問題外，生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標準化及商業(yè)應(yīng)用等挑戰(zhàn)，因此，需要從多個方面實現(xiàn)進階發(fā)展，中興通訊提出算網(wǎng)進階、訓(xùn)推并舉、開放解耦的核心主張。首先是突破技術(shù)瓶頸，加強架構(gòu)、算法、算網(wǎng)和軟硬件協(xié)同優(yōu)化等研究，提升AI訓(xùn)練和推理效率；其次，以RAG、Agents等多種解決方案確保可靠性、安全性和可解釋性，以實現(xiàn)大模型的廣泛應(yīng)用和更高價值，構(gòu)建數(shù)據(jù)飛輪，兼顧能力提升和商業(yè)閉環(huán)；最后，以“開放解耦”加速標準化，構(gòu)建繁榮的產(chǎn)業(yè)和商業(yè)生態(tài)。

  算網(wǎng)進階，打造高效基座

  首先是算網(wǎng)進階，打造高效基座。在智算領(lǐng)域，高速網(wǎng)絡(luò)連接不僅不可或缺，而且至關(guān)重要，無論是芯片內(nèi)裸Die互聯(lián)、芯片之間、服務(wù)器之間、DC之間，網(wǎng)絡(luò)連接技術(shù)的持續(xù)創(chuàng)新和突破，將極大的提升智算的性能與效率。

  Die2Die即芯片內(nèi)的裸Die間高速互聯(lián)網(wǎng)絡(luò)，結(jié)合自研的并口/串口全系列IP、成熟的2.5D/3D先進封裝，支持異構(gòu)解構(gòu)和集成，一定程度上突破摩爾定律失效和工藝方面的制約，實現(xiàn)異構(gòu)計算和網(wǎng)絡(luò)處理在內(nèi)的多種芯片架構(gòu)，提供更高的性能表現(xiàn)和更優(yōu)的性價比。

  Chip2Chip即跨芯片之間的互聯(lián)網(wǎng)絡(luò)，通過芯片間可分布式高速交換互聯(lián)，及PCIe5/6、56G/112G/224G SerDes全系列高速接口結(jié)合的解決方案，更好地解決目前Mesh互聯(lián)靈活性差和帶寬利用率低的問題，并進一步突破算力芯片TP8/16互聯(lián)的規(guī)模瓶頸，更好地適應(yīng)復(fù)雜的大規(guī)模智算應(yīng)用場景的需求，為客戶提供差異化的競爭優(yōu)勢。中興通訊也在積極參與中移全向智感高速互聯(lián)架構(gòu)（OISA）的推進。另外，面向下一代102.4T網(wǎng)絡(luò)交換機光電異構(gòu)集成的需求，LPO（Linear-drive Pluggable Optics，線性驅(qū)動可插拔光模塊）光電融合互聯(lián)和CPO(Co-packaged Optics，光電共封裝)，均可極大地提升互聯(lián)密度，并降低能耗，同時，布局光互連I/O，其在帶寬密度、功率效率、延遲方面將實現(xiàn)革命性的提升。

  Server 2 Server即智算集群的互聯(lián)場景，中興通訊正全力配合中國移動，完善全調(diào)度以太網(wǎng)（GSE）產(chǎn)業(yè)生態(tài)，打造無阻塞、高帶寬及超低時延的新型智算中心網(wǎng)絡(luò)，在今年2月份，中興通訊積極參與了中國移動組織的GSE原型機互聯(lián)互通測試，后續(xù)基于千卡和萬卡場景驅(qū)動，共智合力，加速突破，積極助力鏈長壯大產(chǎn)業(yè)發(fā)展。在自身能力上，中興通訊將持續(xù)推動關(guān)鍵芯片的轉(zhuǎn)發(fā)能力從12.8T向51.2T能力升格，通過提供單層/盒盒/框盒的多樣化方案，更好的服務(wù)全域智算訓(xùn)練場景需要。

  DC 2 DC屬廣域連接場景，400G光傳輸產(chǎn)業(yè)在中國運營商的引領(lǐng)下蓬勃發(fā)展，為“光電貫東西、一網(wǎng)通九州”的算間智聯(lián)打下了堅實基礎(chǔ)。中興通訊正在全力支持國內(nèi)運營商全球規(guī)模最大400G OTN 商用網(wǎng)絡(luò)部署，驗證了全場景Real 400G的大容量連接能力，聯(lián)合國內(nèi)運營商完成了基于S+C+L波段的單波T比特實時系統(tǒng)傳輸實驗，并創(chuàng)造了傳輸容量的世界記錄。后續(xù)，中興通訊也將繼續(xù)發(fā)揮連接優(yōu)勢，以網(wǎng)強算，打造算力網(wǎng)絡(luò)高效全光底座。

  訓(xùn)推并舉，賦能實體經(jīng)濟

  對于大模型在各行業(yè)的落地應(yīng)用，除了常規(guī)的幻覺、安全和倫理等問題，還需要解決專業(yè)性、準確性、魯棒性和可追溯性等一系列剛性場景下的挑戰(zhàn)，同時在基礎(chǔ)大模型基礎(chǔ)上構(gòu)建領(lǐng)域模型時，專業(yè)數(shù)據(jù)治理、增量訓(xùn)練等工程經(jīng)驗和工具集等也至關(guān)重要。以電信自智網(wǎng)絡(luò)場景為例，大小模型結(jié)合、RAG（Retrieval Augmented Generation）、多智能體（Agents）協(xié)同、數(shù)字孿生、多模態(tài)CoT（Chain-of-Thought）等等技術(shù)創(chuàng)新，都已經(jīng)有所成效。

  在AI應(yīng)用商業(yè)化的征途上，訓(xùn)推并舉是驅(qū)動實體經(jīng)濟騰飛的關(guān)鍵。中國憑借豐富的應(yīng)用場景和私域數(shù)據(jù)資源，可以為全球AI產(chǎn)業(yè)做出巨大貢獻。為了充分發(fā)揮這一優(yōu)勢，我們需要注重準確性、專業(yè)性和推理效率的提升，同時加強領(lǐng)域數(shù)據(jù)治理和數(shù)字孿生技術(shù)的應(yīng)用。訓(xùn)推并舉，以訓(xùn)練創(chuàng)造能力，以推理和應(yīng)用驗證價值，構(gòu)建數(shù)據(jù)飛輪，雙循環(huán)將進一步促進AI能力迭代和商業(yè)變現(xiàn)，從而鍛造核心優(yōu)勢。

  具體操作上，我們主張錨定高價值行業(yè)和天使客戶。天使客戶通常是行業(yè)中最具影響力的企業(yè)，數(shù)字化基礎(chǔ)好，同時積極擁抱技術(shù)變革，并可以引領(lǐng)整個行業(yè)數(shù)智化進程。通過與天使客戶的合作，數(shù)智技術(shù)與Know-How結(jié)合，優(yōu)勢互補，并快速驗證迭代技術(shù)方案，樹立標桿。基于自研或開源基礎(chǔ)大模型，利用豐富的行業(yè)數(shù)據(jù)和知識工程構(gòu)建領(lǐng)域大模型，打造行業(yè)樣板，實現(xiàn)從0到1突破?；陬I(lǐng)域大模型，結(jié)合不同場景實現(xiàn)從1到N的應(yīng)用拓展。

  開放解耦，構(gòu)建繁榮生態(tài)

  最后是開放解耦，構(gòu)建繁榮生態(tài)。AI技術(shù)處于高速迭代期，但當(dāng)下依然普遍生態(tài)封閉，同時缺乏行業(yè)標準，并帶來一系列問題，比如重復(fù)開發(fā)和資源浪費、技術(shù)孤立和風(fēng)險集中、選擇受限和供應(yīng)壟斷等，制約了AI的快速良性發(fā)展。

  中興通訊倡導(dǎo)構(gòu)建全棧開放的智算方案。在基礎(chǔ)設(shè)施層面，軟硬協(xié)同，最大化資源效率。硬件兼容適配國內(nèi)外主流GPU/CPU，支持OISA、RoCE/GSE等開放標準的高速無損互聯(lián)，為客戶提供多樣化的選擇；軟件支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信等，在強化對多廠家GPU支持的同時，為模型運行提供高性能、高可靠的運行環(huán)境；通過算力卸載及在網(wǎng)計算等技術(shù)，大幅縮減數(shù)據(jù)讀寫與傳輸時間，提升算力利用率。在能力平臺層面，適配PyTorch、TensorFlow等主流框架，自動實現(xiàn)向后端平臺編譯和優(yōu)化，并提供從數(shù)據(jù)處理、模型開發(fā)/訓(xùn)練/優(yōu)化/評估/部署等端到端的工程工具集，在支持全生命周期保障和管理的同時，還應(yīng)支持算力原生、混池訓(xùn)練、高效推理、數(shù)據(jù)飛輪構(gòu)建等。在算力網(wǎng)絡(luò)層面，強化算網(wǎng)協(xié)同，支持應(yīng)用全域無感遷移。

  “一花獨放不是春，百花齊放春滿園”，全棧開放的智算方案將有利于開放的技術(shù)生態(tài)和共贏的商業(yè)生態(tài)的構(gòu)建，是智算良性發(fā)展的關(guān)鍵。通過軟硬解耦、訓(xùn)推解耦、模型解耦，推動各類能力組件化和共享賦能，加速AI技術(shù)的創(chuàng)新、研發(fā)、應(yīng)用和商業(yè)化進程，構(gòu)建開放的技術(shù)生態(tài)；通過產(chǎn)業(yè)內(nèi)的芯片廠商、ICT硬件廠商、應(yīng)用開發(fā)者、集成商、運營商的生態(tài)定位和優(yōu)勢互補，共同做大做強，實現(xiàn)共贏的商業(yè)生態(tài)。

  筑基啟智，共創(chuàng)美好未來

  中興通訊始終以客戶價值為核心，提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場景智算解決方案，并已形成高速互聯(lián)、在網(wǎng)計算、算力原生、無感遷移、數(shù)據(jù)處理和算法優(yōu)化等多個關(guān)鍵技術(shù)積累。一方面，中興通訊聚焦算力網(wǎng)絡(luò)的高效、綠色、安全，以硬實力筑基，以及能力應(yīng)用的靈活、敏捷、智慧，以軟實力啟智；另一方面以數(shù)字星云的組件式交易的全開放研發(fā)架構(gòu)，可分可合，靈活實現(xiàn)與客戶能力的優(yōu)勢互補和強強協(xié)作，賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求。

  在基礎(chǔ)設(shè)施領(lǐng)域，提供算、存、網(wǎng)、數(shù)據(jù)中心等全系列產(chǎn)品及方案，全面滿足從中心到邊緣的多樣化智算中心建設(shè)需求。在算力維度，芯片側(cè)兼容適配國內(nèi)外多廠家GPU/CPU，自研定海芯片支持RDMA標卡、智能網(wǎng)卡、DPU卡等多種形態(tài)，提供高性能、多樣化的算力內(nèi)核和硬件加速；整機側(cè)，基于扣卡模組/PCIe插卡AI服務(wù)器、訓(xùn)推一體機等系列產(chǎn)品，靈活適配差異化場景；數(shù)據(jù)中心側(cè)，依托風(fēng)液融合、彈性配電等節(jié)能技術(shù)，打造PUE低至1.1、機柜功率密度最高達60kW的新型智算中心。在網(wǎng)絡(luò)維度，中興通訊與產(chǎn)業(yè)伙伴一起建立開放的GPU互聯(lián)標準Olink（Openlink），也將全面融入中移OISA架構(gòu)，在兼容現(xiàn)有RDMA協(xié)議實現(xiàn)機內(nèi)機間統(tǒng)一互聯(lián)技術(shù)的同時，重點推動機內(nèi)通信從Mesh互聯(lián)轉(zhuǎn)向交換互聯(lián)支持單機更大規(guī)模TP計算，降低連接復(fù)雜度，提升集群規(guī)模和效能；自研的RoCE網(wǎng)卡和盒式、框式RDMA交換機，支持構(gòu)建百卡-萬卡規(guī)模的智算集；Real 400G助力打造算力網(wǎng)絡(luò)高效全光底座。

  在能力領(lǐng)域，算力統(tǒng)一云管平臺ZTE TECS支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信；ZTE AIS訓(xùn)推平臺，則支持擁有面向大模型的數(shù)據(jù)處理和模型開發(fā)平臺，提供大模型工程化全棧工具和引擎。在具體應(yīng)用場景中，如無感遷移可以實現(xiàn)5天可用，15天好用；高效推理實現(xiàn)千億模型單卡部署；數(shù)據(jù)自動標注，時間節(jié)約80%等等。

  在智力方面，中興星云大模型集中發(fā)力算法創(chuàng)新、數(shù)據(jù)工程和高效算力平臺。星云基礎(chǔ)大模型包括2.5B/16B/40B/100B多種規(guī)模，可以覆蓋從手機、邊緣到中心云各種部署場景。在訓(xùn)練階段采用多階段預(yù)訓(xùn)練、中文詞表改進、高質(zhì)量語料精煉、合成數(shù)據(jù)訓(xùn)練等多項技術(shù)創(chuàng)新，在算力需求降低50%的同時保證了模型訓(xùn)練效果。在推理效率方面，在保證模型準確率不受影響的情況下，以權(quán)重INT4量化和KVCache FP8量化算法，節(jié)省推理資源3倍。星云通信大模型已完成千億級（9*20B）MoE（混合專家）大模型的訓(xùn)練，并且支持多模態(tài)輸入及十二萬的有效上下文窗口，對通信業(yè)務(wù)場景提供通信專家級的見解和幫助。星云研發(fā)大模型通過多模型協(xié)作技術(shù)，可以支持需求、設(shè)計、編程、測試等不同階段全流程30多種場景，多種編程語言如Python、Java、C/C++、Go、Java script代碼生成能力可以達到GPT4水平，并且在單元測試準確率、覆蓋率大幅超越GPT4-Turbo，可以根據(jù)需求直接生成測試用例（測試驅(qū)動開發(fā)）。

  在應(yīng)用方面，中興通訊積極探索大模型在行業(yè)中的實際應(yīng)用，先后在研發(fā)提效、通信網(wǎng)絡(luò)運維、城市治理、工業(yè)園區(qū)等多個方向推出大模型應(yīng)用。其中，星云編程大模型在HumanEval的評分位列業(yè)界編碼模型第一梯隊，目前日活用戶已超過1.3萬，日請求數(shù)達到11萬+，日吞吐量達3.3億 tokens，編碼提效30%，整體研發(fā)提效10%。同時基于端到端智算平臺為客戶提供全流程大模型工具鏈，降低客戶進入門檻和開發(fā)、使用成本，助力大模型在行業(yè)的普惠應(yīng)用。

  中興通訊始終秉持多樣互補、開放利他的原則，堅定不移的支持并推動產(chǎn)業(yè)繁榮發(fā)展；同時強化內(nèi)外雙循環(huán)，持續(xù)引領(lǐng)創(chuàng)新發(fā)展。未來，中興通訊將持續(xù)加大投入，致力于在多個領(lǐng)域?qū)崿F(xiàn)技術(shù)引領(lǐng)，進一步推動智算產(chǎn)業(yè)的壯大與發(fā)展，為經(jīng)濟的繁榮貢獻力量。