5月17日,2024世界電信和信息社會日大會暨系列活動在浙江省寧波市成功舉辦。在“智算融合創(chuàng)新發(fā)展論壇”上,烽火通信服務(wù)器存儲產(chǎn)出線總裁、長江計算董事高鵬作了《自主突圍:打造智算大潮下的堅實算力底座》的主題發(fā)言。
去年10月,工信部等六部門聯(lián)合印發(fā)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》,重點強調(diào)支持智算、通算等算力結(jié)構(gòu)多元配置,逐步提升智算占比,加強智算與通算協(xié)同發(fā)展,緊跟政策導(dǎo)向,智算中心建設(shè)也成為國內(nèi)各大運營商的重點建設(shè)目標(biāo)。數(shù)據(jù)顯示,2022-2027年期間,中國智能算力規(guī)模年復(fù)合增長率達33.9%;大模型引爆智算服務(wù)器需求,2027年市場空間將達到1312億。在智算大潮下,作為算力基礎(chǔ)設(shè)施的建設(shè)者,三大運營商加碼算力布局,以迎接智能時代的到來。
然而,高端算力受限成為國產(chǎn)化智算發(fā)展的“絆腳石”,高鵬指出,“我們清楚地意識到只有立足于自己,構(gòu)建國產(chǎn)化智算全棧研發(fā)隊伍才是破局關(guān)鍵。長江計算作為鯤鵬和昇騰的重要合作伙伴,正積極布局國產(chǎn)化算力領(lǐng)域,力求在激烈的市場競爭中突圍而出。我們專注于國產(chǎn)化算力的研發(fā)與推廣,致力于做好三件事:硬件可替代、生態(tài)適配優(yōu)、算力性能足。由此來支持千行百業(yè)無處不智的行業(yè)應(yīng)用?!?
從細(xì)分產(chǎn)品方面來看,長江計算向行業(yè)用戶提供自主可靠的基礎(chǔ)算力硬件,如鯤鵬底座搭配相應(yīng)的昇騰加速卡,針對不同場景進行硬件的排列組合和適配遷移,以滿足各種場景的算力需求。據(jù)了解,目前長江計算圍繞中心訓(xùn)練、中心推理、邊緣推理均推出了系列硬件產(chǎn)品。
“通過優(yōu)化全場景模型遷移適配能力,可降低國產(chǎn)化AI應(yīng)用成本。”高鵬介紹,“軟件生態(tài)差距、用戶愿不愿意用、能不能用好等問題極大地制約著國產(chǎn)化相應(yīng)智算產(chǎn)品的使用和推廣。因此,我們不僅提供硬件產(chǎn)品,還協(xié)助用戶進行算法適配、遷移和調(diào)優(yōu)。通過一系列的優(yōu)化措施,如算子優(yōu)化、數(shù)據(jù)優(yōu)化、策略優(yōu)化等可以把相應(yīng)的硬件性能最大程度地釋放出來,提升模型性能,降低用戶使用門檻?!备啭i特別提到,通過AI一體機、預(yù)制小模型算法,可降低中小企業(yè)國產(chǎn)化AI使用門檻。
總結(jié)來看,長江計算可以提供從基礎(chǔ)的算力硬件產(chǎn)品,到中間管理模型的服務(wù),以及調(diào)優(yōu)運維服務(wù)和上層的定制化解決方案。目前,長江計算的產(chǎn)品已在多個領(lǐng)域?qū)崿F(xiàn)了成功應(yīng)用,如訓(xùn)推一體模型遷移,助力云南移動“AI搜星”的項目榮獲工信部ICT優(yōu)秀案例;支撐廣東聯(lián)通5G不良消息引擎的國產(chǎn)化遷移適配;在智慧金融上,基于卡證識別、票據(jù)識別、財報識別、數(shù)據(jù)比對等為客戶創(chuàng)造便利。
盡管我國的智能算力技術(shù)及產(chǎn)品已經(jīng)取得了可觀的成績,但仍存在一些挑戰(zhàn)與問題?!叭绻虡I(yè)遲遲不能閉環(huán),技術(shù)發(fā)展可能會受到一定的影響。所以在2024-2025年我們要盡可能催熟應(yīng)用,著力去推進各種場景化應(yīng)用和推理需求的快速增長。”高鵬提到,“此外,算力硬件基礎(chǔ)設(shè)施的設(shè)計部署是不可逆的潮流,如果按照當(dāng)前的發(fā)展趨勢,智算數(shù)據(jù)中心能耗年均復(fù)合增長率50%,預(yù)計2027年全國數(shù)據(jù)中心占全社會用電量的比重將達到8.6%,形勢極為嚴(yán)峻。因此,我們一方面要快速地實現(xiàn)商業(yè)閉環(huán),另一方面要實施相應(yīng)的節(jié)能?!?
高鵬建議,要優(yōu)化數(shù)據(jù)中心算力部署結(jié)構(gòu),降低數(shù)據(jù)中心PUE,構(gòu)建雙碳政策下滿足數(shù)據(jù)中心算力增長需求的有效路徑。按照以上方案,長江計算推出了“DIGITS解決方案”,并以此方案助力打造“最綠色”數(shù)據(jù)中心。
我們相信,通過努力,長江計算定能夠推動國產(chǎn)化智算的持續(xù)發(fā)展,為千行百業(yè)的智能化轉(zhuǎn)型升級提供有力支持。