時間在變,空間随着時間也在變,不變的唯有真知灼見。
2024年12月25日  星期三
首頁
财經
觀察
參考
ESG
公告
市場
研究
IPO
公司
周報
推薦
首頁 > 動态

騰訊推出國内最強大模型計算集群,性能翻三倍!

來源:真灼傳媒 時間:2023-04-14 15:27:27

字号

真灼4月14日消息,騰訊控股(00700.HK)于4月14日正式發布了新一代高性能計算集群HCC,用于大模型訓練。該集群采用騰訊雲星星海自研服務器,搭載英偉達最新代次H800 GPU,并采用業界最高的3.2T超高互聯帶寬,大幅提升大模型訓練、自動駕駛、科學計算等方面的性能。


新一代集群整體性能比過去提高了3倍,成為國内最強大模型計算集群。去年10月,騰訊訓練框架AngelPTM完成了首個萬億參數大模型訓練。如今,基于新一代集群,訓練時間将進一步縮短至4天。


星星海自研服務器采用6U超高密度設計,相較行業可支持的上架密度提高30%。同時,通過CPU和GPU節點的一體化設計,将單點算力性能提升至更高水平。此外,搭載英偉達旗下最先進的H800 GPU,算力超過旗艦芯片A100三倍。


騰訊發布的自研星脈網絡提供3.2T通信帶寬,為業内最高數據。相較前代網絡,整體算力提升20%,能夠支持更大規模的大模型訓練及推理。存儲方面,騰訊雲自研的文件存儲、對象存儲架構具備TB級吞吐能力和千萬級IOPS,滿足大模型訓練的大數據量存儲要求。


新一代集群還集成了騰訊雲自研的TACO訓練加速引擎,大幅節約訓練調優和算力成本。騰訊自研的紫霄芯片已經量産,用于AI推理,提供高達3倍的計算加速性能和超過45%的整體成本節省。


騰訊表示,将投入大量資源建立自己的基礎模型,并将其整合進公司的所有業務中。新一代集群有望提升騰訊旗下産品的用戶體驗。未來,每個用戶都可能擁有人工智能助理,有望将生成式AI納入微信和QQ。


截至發稿15:09分,騰訊控股(00700.HK)漲0.11%,報363.60港元,成交額36.05億港元,總市值3.48萬億港元。


微信掃碼 > 右上角點擊 > 分享