騰訊云TI-ONE助力中小型企業(yè)“降本提效”：硬件成本降低50%

  ICC訊 據(jù)獲悉，騰訊云TI-ONE平臺在數(shù)據(jù)接入、模型訓練、模型服務等階段為企業(yè)提供全鏈路的技術優(yōu)化方案，并在模型訓練、推理階段提供TI-ACC加速工具，幫助客戶節(jié)省50%硬件成本。

  隨著數(shù)字化轉型進程不斷加速，人工智能技術的發(fā)展更加關注與行業(yè)應用、社會需求的深度融合。其中，技術服務商如何提供“開箱即用”的AI能力，讓企業(yè)更好聚焦業(yè)務本身，提高 AI應用的開發(fā)效率，成為行業(yè)關注的主要問題。

  今年9月，騰訊一站式AI開發(fā)服務平臺TI平臺全面升級，并推出TI-ACC加速工具、TI-OCR訓練平臺、TI-ONE訓練平臺、工業(yè)質(zhì)檢訓練平臺、智能視頻分析平臺、媒體內(nèi)容中臺/媒體AI中心等服務板塊。其中，TI-ACC的推理加速性能較原生框架提升100%以上，可用于大模型加速等場景。

  目前，依托于數(shù)據(jù)訓練模型、深度學習網(wǎng)絡的分布式大規(guī)模機器訓練，成為企業(yè)提升業(yè)務效能的主要途徑。然而，數(shù)據(jù)量龐大、訓練推理環(huán)境搭建復雜、訓練周期長、推理時延高等問題，中小企業(yè)的人力成本和硬件成本不斷攀升。

  以AI商品識別服務商掌控科技為例。隨著業(yè)務規(guī)模不斷擴大，高精度模型所需的GPU資源成本不斷提高。在騰訊云TI-ONE的助力下，客戶將由TI-ACC加速優(yōu)化后的模型部署在生產(chǎn)環(huán)境，推理性能提升100%，硬件成本降低50%。

  TI-ACC在推理階段所呈現(xiàn)的高性能，得益于底層的TNN基礎框架。據(jù)了解，TNN是騰訊優(yōu)圖實驗室向行業(yè)開源的部署框架，TI-ACC在TNN接口基礎上進行產(chǎn)品化封裝，提供一鍵式推理加速功能。

  此外，TI-ACC支持各類主流模型格式接入，無需轉換。另覆蓋CV、NLP、推薦等場景，功能豐富，能夠滿足客戶的多樣化需求。

  使用層面，客戶只需將保存的模型包上傳到模型倉庫，將優(yōu)化后的模型在TI-ONE平臺發(fā)布服務并通過API條用，即可享受到TI-ACC推理加速帶來的高性能體驗。

  作為前沿技術的探索，騰訊一直通過向各行業(yè)提供 AI 技術助力，推動人工智能技術高水平應用，目前已在金融、媒體、政務、工業(yè)和醫(yī)療等多個行業(yè)受到客戶認可。未來，騰訊也將持續(xù)深入行業(yè)，更好發(fā)揮AI技術的長期價值，助力實體經(jīng)濟高質(zhì)量發(fā)展。