6月19日,騰訊云在國(guó)家科技傳播中心召開行業(yè)大模型及智能應(yīng)用技術(shù)峰會(huì),首次公布騰訊云行業(yè)大模型研發(fā)進(jìn)展。會(huì)上騰訊發(fā)布了依托騰訊云TI平臺(tái)打造行業(yè)大模型精選商店,可以為客戶提供MaaS(Model-as-a-Service)一站式服務(wù),助力客戶構(gòu)建專屬大模型及智能應(yīng)用。
(資料圖片僅供參考)
《中國(guó)經(jīng)營(yíng)報(bào)》記者注意到,會(huì)上,騰訊云還聯(lián)合22家客戶正式啟動(dòng)行業(yè)大模型共建合作,并攜手17家生態(tài)伙伴共同發(fā)起了“騰訊云行業(yè)大模型生態(tài)計(jì)劃”,致力于共同推進(jìn)大模型在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和落地?;隍v訊HCC高性能計(jì)算集群和大模型能力,騰訊云已經(jīng)為傳媒、文旅、政務(wù)、金融等10余個(gè)行業(yè)提供了超過50個(gè)大模型行業(yè)解決方案。
騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示,生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅(jiān)持生態(tài)開放,為企業(yè)提供高質(zhì)量模型服務(wù),同時(shí)支持客戶多模型訓(xùn)練任務(wù),加速大模型在產(chǎn)業(yè)場(chǎng)景的創(chuàng)新探索。
產(chǎn)業(yè)場(chǎng)景是大模型最佳練兵場(chǎng)
會(huì)上,湯道生分別從模型、數(shù)據(jù)、應(yīng)用與算力四個(gè)角度分享了對(duì)大語言模型在產(chǎn)業(yè)落地的思考。
就模型而言,湯道生認(rèn)為,比起通用大模型,企業(yè)更需要針對(duì)具體行業(yè)的大模型,并結(jié)合企業(yè)自身的數(shù)據(jù)進(jìn)行訓(xùn)練和精調(diào),以打造出更實(shí)用的智能服務(wù)。企業(yè)對(duì)提供的專業(yè)服務(wù)要求高且容錯(cuò)性低,因此使用的大模型必須具備可控、可追溯和可修正的特點(diǎn),并經(jīng)過反復(fù)充分的測(cè)試。
其次是數(shù)據(jù)的重要性?!皵?shù)據(jù)是大模型的原材料,針對(duì)具體場(chǎng)景,數(shù)據(jù)的覆蓋和質(zhì)量至關(guān)重要。在模型的開發(fā)過程中,需要關(guān)注敏感數(shù)據(jù)的保護(hù)和安全合規(guī),并有效管理大量的數(shù)據(jù)和標(biāo)簽,不斷進(jìn)行測(cè)試和模型的迭代?!睖郎f。騰訊云也推出基于TI平臺(tái)的行業(yè)大模型精調(diào)解決方案,幫助模型開發(fā)者和算法工程師高效率、高品質(zhì)、低成本地處理數(shù)據(jù),創(chuàng)建和使用大模型。
在應(yīng)用方面,騰訊自身也應(yīng)用行業(yè)大模型,優(yōu)化自身企業(yè)級(jí)用戶,為用戶提高工作效率。例如,通過基于行業(yè)模型的智能小助手,騰訊會(huì)議可以協(xié)助用戶進(jìn)行日程安排、會(huì)管、會(huì)控等操作,并自動(dòng)生成智能總結(jié)摘要,提升會(huì)議的效率。騰訊企點(diǎn)智能客服和AI代碼助手等應(yīng)用也通過行業(yè)模型的訓(xùn)練和精調(diào),提供更精準(zhǔn)、詳細(xì)的回答和高效的編程輔助。
最后是算力的支持。算力是模型持續(xù)運(yùn)轉(zhuǎn)的基礎(chǔ),高性能、高彈性和高穩(wěn)定的算力對(duì)于大模型的訓(xùn)練和使用至關(guān)重要。據(jù)介紹,騰訊云也提供新一代高性能計(jì)算集群,為客戶提供穩(wěn)定計(jì)算、高速網(wǎng)絡(luò)與專業(yè)運(yùn)維。同時(shí),推出面向AI運(yùn)算的向量數(shù)據(jù)庫,支撐對(duì)圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)的高效處理,數(shù)據(jù)接入AI的效率,也比傳統(tǒng)方案提升10倍。
湯道生表示:“大模型只是開端,AI與產(chǎn)業(yè)的融合,將綻放出更有創(chuàng)造力的未來。生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅(jiān)持生態(tài)開放,為企業(yè)提供高質(zhì)量模型服務(wù),同時(shí)支持客戶多模型訓(xùn)練任務(wù),加速大模型在產(chǎn)業(yè)場(chǎng)景的創(chuàng)新探索。”
攜手10余個(gè)行業(yè)探索行業(yè)大模型
AI大模型驅(qū)動(dòng)“智慧涌現(xiàn)”,為千行百業(yè)帶來了全新發(fā)展機(jī)遇。然而企業(yè)在接入、訓(xùn)練、部署和應(yīng)用大語言模型時(shí)面臨著訓(xùn)練成本高昂、數(shù)據(jù)安全、專業(yè)知識(shí)不足等現(xiàn)實(shí)挑戰(zhàn)。
當(dāng)前,通用大語言模型在應(yīng)對(duì)產(chǎn)業(yè)場(chǎng)景落地時(shí)存在一定的局限性。首先,通用大模型的訓(xùn)練數(shù)據(jù)主要來自公開數(shù)據(jù)集或網(wǎng)絡(luò)數(shù)據(jù),對(duì)于特定行業(yè)的專業(yè)領(lǐng)域知識(shí)了解有限。此外,通用大語言模型的訓(xùn)練需要大量計(jì)算資源和漫長(zhǎng)的訓(xùn)練周期,這對(duì)企業(yè)來說可能昂貴且耗時(shí)。同時(shí),安全和合規(guī)也是必要考量因素。因此,選擇與具備一站式行業(yè)大模型服務(wù)能力的云廠商合作,打造企業(yè)專屬的行業(yè)大模型至關(guān)重要,好用、易用的同時(shí)還能降低企業(yè)的成本和時(shí)間投入。
“依據(jù)企業(yè)實(shí)際需求,進(jìn)而‘量體裁衣’定制一個(gè)專屬大模型,或許是解決這些問題的最佳答案?!彬v訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲表示,基于客戶實(shí)際痛點(diǎn)和需求,騰訊云全新公布MaaS全景圖,依托騰訊云TI平臺(tái)打造行業(yè)大模型精選商店,為企業(yè)客戶提供涵蓋模型預(yù)訓(xùn)練、模型精調(diào)、智能應(yīng)用開發(fā)等一站式行業(yè)大模型解決方案。在TI平臺(tái)內(nèi)置高質(zhì)量行業(yè)大模型基礎(chǔ)上,企業(yè)加入自己獨(dú)有的場(chǎng)景數(shù)據(jù),就可以快速生成自己的專屬模型;同時(shí),也可根據(jù)自身業(yè)務(wù)場(chǎng)景需求,“量體裁衣、按需定制”不同參數(shù)、不同規(guī)格的模型服務(wù)。
擁有充沛算力是大模型訓(xùn)練的基礎(chǔ),據(jù)悉,今年4月,騰訊云發(fā)布了專為大模型訓(xùn)練設(shè)計(jì)的新一代HCC高性能計(jì)算集群,采用最新一代的騰訊云星星海自研服務(wù)器,具備業(yè)界最高的3.2Tbps互聯(lián)帶寬,算力性能提升了3倍。此外,騰訊云即將推出向量數(shù)據(jù)庫(Tencent Cloud VectorDB),源自騰訊集團(tuán)每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級(jí)向量規(guī)模,更適用于AI運(yùn)算、檢索,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍。
吳運(yùn)生表示,在平臺(tái)層面,依托TI平臺(tái),騰訊云將為客戶提供一站式模型服務(wù),涵蓋完善的模型工具、成熟的流程方法、全面的配套服務(wù)、領(lǐng)先的安全保障能力。
首先,騰訊云TI平臺(tái)內(nèi)置多個(gè)高質(zhì)量行業(yè)大模型,涵蓋金融、傳媒、文旅、政務(wù)、工業(yè)等多個(gè)行業(yè)場(chǎng)景,企業(yè)可以結(jié)合自身場(chǎng)景數(shù)據(jù)按需定制精調(diào),也可以根據(jù)自身需求開展多模型訓(xùn)練任務(wù),大幅降低大模型應(yīng)用門檻。
其次,TI平臺(tái)提供完善的大模型工具鏈,包括數(shù)據(jù)標(biāo)注、訓(xùn)練、評(píng)估、測(cè)試和部署等全套工具。同時(shí),由TI-ACC升級(jí)的“太極Angel”提供更優(yōu)的訓(xùn)練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎(chǔ)上,新增了對(duì)大模型的訓(xùn)練和推理加速能力,通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計(jì)算優(yōu)化等方式,相比行業(yè)常用方案性能提升30%+。
再次,TI平臺(tái)沉淀了從“業(yè)務(wù)分析、數(shù)據(jù)處理、大模型選擇”到“模型評(píng)測(cè)”的一體化完整方法論,同時(shí)支持MLOps的體系及工具,可以保障客戶需求的順利交付。
會(huì)上,中國(guó)科技新聞學(xué)會(huì)黨委副書記、副理事長(zhǎng)兼秘書長(zhǎng)陳銳還表示,加速AI大模型技術(shù)在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和實(shí)踐,推動(dòng)國(guó)家人工智能技術(shù)發(fā)展,更需要全行業(yè)人員共同關(guān)注傳播科技服務(wù)創(chuàng)新。
峰會(huì)現(xiàn)場(chǎng),騰訊云還聯(lián)合22家客戶正式啟動(dòng)行業(yè)大模型共建合作,未來將依托騰訊云領(lǐng)先的行業(yè)大模型能力,構(gòu)建垂直行業(yè)模型及應(yīng)用。并攜手17家生態(tài)伙伴共同發(fā)起了“騰訊云行業(yè)大模型生態(tài)計(jì)劃”,致力于共同加速推進(jìn)大模型在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和落地。
在行業(yè)大模型標(biāo)準(zhǔn)體系方面,中國(guó)信通院云計(jì)算與大數(shù)據(jù)研究所副所長(zhǎng)魏凱,騰訊法務(wù)副總裁江波,騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲共同啟動(dòng)了“行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)”研究,該研究涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡(luò)、模型安全可靠等方面,未來將為行業(yè)大模型的建設(shè)和應(yīng)用提供完備的能力和標(biāo)準(zhǔn)體系。
(文章來源:中國(guó)經(jīng)營(yíng)網(wǎng))
關(guān)鍵詞: