欧洲无码精品色欲三区网站-欧洲无码精品在线-欧洲无码毛片-欧洲无码一区-欧洲无码一区二区-欧洲无码一区二区三区

聚焦> 正文

十倍提升大模型通信性能!騰訊云首次完整披露自研星脈高性能計算網絡 環球快消息

時間: 2023-06-26 22:48:15 來源: 搜狐數碼

AIGC的爆發除了帶來算力上的挑戰,對網絡的要求也達到了前所未有的高度。

6月26日,騰訊云首次對外完整披露自研星脈高性能計算網絡:星脈網絡具備業界最高的3.2T通信帶寬,能提升40%的GPU利用率,節省30%~60%的模型訓練成本,為AI大模型帶來10倍通信性能提升。基于騰訊云新一代算力集群HCC,可支持10萬卡的超大計算規模。

騰訊云副總裁王亞晨表示:“星脈網絡是為大模型而生。它所提供的大帶寬、高利用率以及零丟包的高性能網絡服務,將助力算力瓶頸的突破,進一步釋放AI潛能,全面提升企業大模型的訓練效率,在云上加速大模型技術的迭代升級和落地應用。”


(資料圖片僅供參考)

構建大模型專屬高性能網絡,提升40%GPU利用率

AIGC的火爆帶來AI大模型參數量從億級到萬億級的飆升。為支撐海量數據的大規模訓練,大量服務器通過高速網絡組成算力集群,互聯互通,共同完成訓練任務。

大集群不等于大算力,相反,GPU集群越大,產生的額外通信損耗越多。大帶寬、高利用率、信息無損,是AI大模型時代網絡面臨的核心挑戰。

千億、萬億參數規模的大模型,訓練過程中通信占比最大可達50%,傳統低速網絡的帶寬遠遠無法支撐。同時,傳統網絡協議容易導致網絡擁塞、高延時和丟包,而僅0.1%的網絡丟包就可能導致50%的算力損失,最終造成算力資源的嚴重浪費。

基于全面自研能力,騰訊云在交換機、通信協議、通信庫以及運營系統等方面,進行了軟硬一體的升級和創新,率先推出業界領先的大模型專屬高性能網絡——星脈網絡。

在硬件方面,星脈網絡基于騰訊的網絡研發平臺,采用全自研設備構建互聯底座,實現自動化部署和配置。

在軟件方面,騰訊云自研的TiTa網絡協議,采用先進的擁塞控制和管理技術,能夠實時監測并調整網絡擁塞,滿足大量服務器節點之間的通信需求,確保數據交換流暢、延時低,實現高負載下的零丟包,使集群通信效率達90%以上。

此外,騰訊云還為星脈網絡設計了高性能集合通信庫TCCL,融入定制化解決方案,使系統實現了微秒級感知網絡質量。結合動態調度機制合理分配通信通道,可以避免因網絡問題導致的訓練中斷等問題,讓通信時延降低40%。

網絡的可用性,也決定了整個集群的計算穩定性。為確保星脈網絡的高可用,騰訊云自研了端到端的全棧網絡運營系統,通過端網立體化監控與智能定位系統,將端網問題自動定界分析,讓整體故障的排查時間由天級降低至分鐘級。同時,大模型訓練系統的整體部署時間從19天縮減至4.5天,保證基礎配置100%準確。

歷經三代技術演進,軟硬一體深耕自研

星脈網絡全方位的升級背后,是騰訊數據中心網絡歷經三代技術演進的成果。

在騰訊發展初期,數據中心網絡流量主要由用戶訪問數據中心服務器的南北向流量構成,網絡架構以接入、匯聚、出口為主。這一階段主要使用了商用網絡設備,搭建標準化數據中心網絡,支撐QQ在線人數增長超過1億,服務器規模增長超10萬。

隨著大數據和云計算的興起,服務器之間的東西向流量逐漸增多,云租戶對網絡產生了虛擬化和隔離的要求。數據中心網絡架構逐漸演變為同時承載南北向和東西向流量的云網絡架構,騰訊云構建了全自研網絡設備與管理系統,打造超大規模數據中心網絡,服務器規模近200萬臺。

如今隨著AI大模型的出現,騰訊云在國內率先推出高性能計算網絡,采用東西向、南北向流量的分離架構。構建了獨立的超大帶寬、符合AI訓練流量特征的網絡架構,并配合自研軟硬件設施,實現整套系統的自主可控,滿足超強算力對網絡性能的新需求。

日前,騰訊云發布的新一代HCC高性能計算集群,正是基于星脈高性能網絡打造,可以實現3.2T超高互聯帶寬,算力性能較前代提升3倍,為AI大模型訓練構筑可靠的高性能網絡底座。

未來,騰訊云還將持續投入基礎技術的研發,為各行各業的數智化轉型提供有力的技術支撐。

責任編輯:

關鍵詞:

責任編輯:QL0009

為你推薦

關于我們| 聯系我們| 投稿合作| 法律聲明| 廣告投放

版權所有 © 2020 跑酷財經網

所載文章、數據僅供參考,使用前務請仔細閱讀網站聲明。本站不作任何非法律允許范圍內服務!

聯系我們:315 541 [email protected]

主站蜘蛛池模板: 91 蝌蚪老熟女 | 男女交配视频在线免费看 | 国产精品福利在线播放 | 午夜成人亚洲理伦片在线观看 | 亚洲一区在线日本 | 欧美精品亚洲精品日韩专区va | 国产日韩综合精品一区二区三区 | 91视频app下载| 91九色国| 午夜国产视频 | 97小视频 | 91九色李宗瑞在线观看 | 91熟女性爱视频 | 91最新电影电视剧综艺动漫在线观看 | 国产一区免费在线观看 | 日韩电影在线观看完整版免费 | 日韩国产不卡一区二区三区 | ccyy草草影国产第一页 | 香蕉www99免费 | 欧美一区二区在线视频 | 中文字幕国 | 国产精品三级一区二区 | 欧美日韩国产中文区页 | 91看书 | 菠萝蜜视频污 | 91视频免费在线观看 | 国产91色在线综合亚洲 | 亚洲欧美国产国 | 亚洲国产精品福利片在线观看 | 91尤物| 中文字幕国产一区二区三区. | 日韩欧美在线一区 | 日本免费一级不卡 | 国产精品福利无圣光一区二区 | 91首页 | 91视频在线免费下载 | 国产精品美女视频免费观看 | 三区尤物| 欧洲精品中文字幕 | 国产91玉足脚交在线播放 | 精品视频97 |