騰訊云TI-ONE助力中小型企業(yè)“降本提效”：硬件成本降低50%

  ICC訊 據(jù)獲悉，騰訊云TI-ONE平臺(tái)在數(shù)據(jù)接入、模型訓(xùn)練、模型服務(wù)等階段為企業(yè)提供全鏈路的技術(shù)優(yōu)化方案，并在模型訓(xùn)練、推理階段提供TI-ACC加速工具，幫助客戶節(jié)省50%硬件成本。

  隨著數(shù)字化轉(zhuǎn)型進(jìn)程不斷加速，人工智能技術(shù)的發(fā)展更加關(guān)注與行業(yè)應(yīng)用、社會(huì)需求的深度融合。其中，技術(shù)服務(wù)商如何提供“開箱即用”的AI能力，讓企業(yè)更好聚焦業(yè)務(wù)本身，提高 AI應(yīng)用的開發(fā)效率，成為行業(yè)關(guān)注的主要問題。

  今年9月，騰訊一站式AI開發(fā)服務(wù)平臺(tái)TI平臺(tái)全面升級(jí)，并推出TI-ACC加速工具、TI-OCR訓(xùn)練平臺(tái)、TI-ONE訓(xùn)練平臺(tái)、工業(yè)質(zhì)檢訓(xùn)練平臺(tái)、智能視頻分析平臺(tái)、媒體內(nèi)容中臺(tái)/媒體AI中心等服務(wù)板塊。其中，TI-ACC的推理加速性能較原生框架提升100%以上，可用于大模型加速等場(chǎng)景。

  目前，依托于數(shù)據(jù)訓(xùn)練模型、深度學(xué)習(xí)網(wǎng)絡(luò)的分布式大規(guī)模機(jī)器訓(xùn)練，成為企業(yè)提升業(yè)務(wù)效能的主要途徑。然而，數(shù)據(jù)量龐大、訓(xùn)練推理環(huán)境搭建復(fù)雜、訓(xùn)練周期長、推理時(shí)延高等問題，中小企業(yè)的人力成本和硬件成本不斷攀升。

  以AI商品識(shí)別服務(wù)商掌控科技為例。隨著業(yè)務(wù)規(guī)模不斷擴(kuò)大，高精度模型所需的GPU資源成本不斷提高。在騰訊云TI-ONE的助力下，客戶將由TI-ACC加速優(yōu)化后的模型部署在生產(chǎn)環(huán)境，推理性能提升100%，硬件成本降低50%。

  TI-ACC在推理階段所呈現(xiàn)的高性能，得益于底層的TNN基礎(chǔ)框架。據(jù)了解，TNN是騰訊優(yōu)圖實(shí)驗(yàn)室向行業(yè)開源的部署框架，TI-ACC在TNN接口基礎(chǔ)上進(jìn)行產(chǎn)品化封裝，提供一鍵式推理加速功能。

  此外，TI-ACC支持各類主流模型格式接入，無需轉(zhuǎn)換。另覆蓋CV、NLP、推薦等場(chǎng)景，功能豐富，能夠滿足客戶的多樣化需求。

  使用層面，客戶只需將保存的模型包上傳到模型倉庫，將優(yōu)化后的模型在TI-ONE平臺(tái)發(fā)布服務(wù)并通過API條用，即可享受到TI-ACC推理加速帶來的高性能體驗(yàn)。

  作為前沿技術(shù)的探索，騰訊一直通過向各行業(yè)提供 AI 技術(shù)助力，推動(dòng)人工智能技術(shù)高水平應(yīng)用，目前已在金融、媒體、政務(wù)、工業(yè)和醫(yī)療等多個(gè)行業(yè)受到客戶認(rèn)可。未來，騰訊也將持續(xù)深入行業(yè)，更好發(fā)揮AI技術(shù)的長期價(jià)值，助力實(shí)體經(jīng)濟(jì)高質(zhì)量發(fā)展。