時間在變,空間随着時間也在變,不變的唯有真知灼見。
2025年01月09日  星期四
首頁
财經
觀察
參考
ESG
公告
市場
研究
IPO
周報
動态
推薦
首頁 > 公司

Supermicro 采用新一代系統和機架架構以擴大人工智能優化産品組合

來源:真灼财經 時間:2024-03-21 13:42:23

字号

                       

- Supermicro 采用由全新 NVIDIA Blackwell 架構解決方案組成的新一代系統和機架架構以擴大人工智能優化産品組合

适用于大規模 CSP  NSP 的強大節能解決方案将結合全方位下一代 NVIDIA GPU  CPU,以及 NVIDIA Quantum X800 平台和 NVIDIA AI Enterprise 5.0


加利福尼亞州聖何塞2024年3月21日 /美通社/ -- 在 2024  NVIDIA GPU 大會上,人工智能、雲、存儲和 5G/邊緣的整體 IT 解決方案提供商 Supermicro, Inc.(納斯達克股票代碼:SMCI宣布推出新的大規模生成式人工智能系統,該系統采用 NVIDIA 的下一代數據中心産品,包括最新的 NVIDIA GB200 Grace™ Blackwell Superchip、NVIDIA B200 Tensor Core 和 B100 Tensor Core GPU。Supermicro 正在優化其目前的 NVIDIA HGX™ H100/H200 8-GPU 系統,以便支持 NVIDIA HGX™ B100 8-GPU 和 B200,從而縮短交付時間。此外,Supermicro 還将通過 NVIDIA GB200(包括具有 72 個NVIDIA Blackwell GPU 的完整機架級解決方案的 NVIDIA GB200 NVL72)新産品,進一步加強其龐大的 NVIDIA MGX™ 系統産品系列。Supermicro 還在其産品陣容中增加了新系統,包括 4U NVIDIA HGX B200 8-GPU 液冷系統。


 
    

Supermicro 總裁兼首席執行官梁見後表示:"我們專注于人工智能的構建塊架構和機架級整體 IT,有助于我們設計下一代系統,以滿足基于 NVIDIA Blackwell 架構 GPU 的更高要求,例如采用 NVIDIA HGX B200 8-GPU 的新 4U 液冷系統以及 NVIDIA GB200 NVL72 的完全集成直達芯片液冷機架。這些新産品的開發乃基于 Supermicro 和 NVIDIA 久經考驗的 HGX 和 MGX 系統架構,并針對 NVIDIA Blackwell GPU 的新功能進行了優化。Supermicro 擁有将 1kW GPU 整合到各種風冷和液冷系統中的專業知識,以及每月 5,000 個機架的機架規模生産能力,我們預計将率先部署采用 NVIDIA Blackwell GPU 的全機架集群,并在市場上推出。"


Supermicro 直達芯片的液體冷卻技術将允許增加最新 GPU 的散熱設計功率 (TDP),并充分發揮 NVIDIA Blackwell GPU 的潛力。Supermicro 搭載 NVIDIA Blackwell 的 HGX 和 MGX 系統是未來人工智能基礎設施的構建塊,将為數萬億參數的人工智能訓練和實時人工智能推理帶來突破性的性能。


一系列經過 GPU 優化的 Supermicro 系統将為 NVIDIA Blackwell B200 和 B100 Tensor Core GPU 做好準備,并針對最新的 NVIDIA AI Enterprise 軟件進行驗證,該軟件增加了對 NVIDIA NIM 推理微服務的支持。Supermicro 系統包括:


  • NVIDIA HGX B100 8-GPU 和 HGX B200 8-GPU 系統

  • 5U/4U PCIe GPU 系統,多達 10 個 GPU

  • SuperBlade® 配備多達 20 個用于 8U 擴展櫃的 B100 GPU,多達 10 個用于6U 擴展櫃的B100 GPU

  • 2U Hyper 配備多達 3 個 B100 GPU

  • Supermicro 2U x86 MGX 系統配備多達 4 個 B100 GPU


在訓練大規模基礎人工智能模型方面,Supermicro 準備率先發布首次問世的 NVIDIA HGX B200 8-GPU 和 HGX B100 8-GPU 系統。這些系統采用 8 個 NVIDIA Blackwell GPU,通過第五代 NVIDIA® NVLink® 實現 1.8TB/s 的高速互連,性能是上一代的兩倍,總高帶寬内存為 1.5TB,與一代 NVIDIA Hopper 架構相比,GPT-Moe-1.8T 型号等 LLM 的訓練結果将快 3 倍。這些系統具有先進的網絡功能,可擴展到集群,支持 NVIDIA Quantum-2 InfiniBand 和 NVIDIA Spectrum-X 以太網選項,GPU 與 NIC 的比例為 1:1。


NVIDIA GPU 産品管理副總裁 Kaustubh Sanghani 表示:"Supermicro 将繼續向市場推出種類繁多的加速計算平台服務器,這些服務器專為人工智能訓練和推理而調整,可以滿足當今市場的任何需求。我們将與 Supermicro 密切合作,為客戶提供最優化的解決方案。"


對于要求最苛刻的 LLM 推理工作負載,Supermicro 發布了幾款采用 NVIDIA GB200 Grace Blackwell Superchip 構建的新型 MGX 系統,該系統将 NVIDIA Grace CPU 和兩個 NVIDIA Blackwell GPU 相結合。與 NVIDIA HGX H100 相比,Supermicro 配備了 GB200 系統的NVIDIA MGX 将為人工智能推理性能帶來巨大飛躍,速度高達 30 倍。Supermicro 和 NVIDIA 開發了采用 NVIDIA GB200 NVL72 的機架級解決方案,将 36 個 Grace CPU 和 72 個 Blackwell GPU 連接在一個機架中。所有 72 個 GPU 都與第五代 NVIDIA NVLink 互連,以實現 1.8TB/s 的 GPU 與 GPU 的通信。此外,對于推理工作負載,Supermicro 宣布推出 ARS-221GL-NHIR,這是一款基于 GH200 系列産品的 2U 服務器,它将通過 900Gb/s 的高速互連連接兩台 GH200 服務器。歡迎前往 GPU 大會的Supermicro 展位了解更多信息


Supermicro 系統還将支持即将推出的 NVIDIA Quantum-X800 InfiniBand 平台,包括 NVIDIA Quantum-X800 QM3400 交換機和 SuperNIC800,以及由 NVIDIA Spectrum-X800 SN5600 交換機和 SuperNIC800 組成的 NVIDIA Spectrum-X800 以太網平台。NVIDIA Quantum-X800 和 Spectrum-X800 針對 NVIDIA Blackwell 架構進行了優化,将為人工智能基礎設施提供最高水平的網絡性能。


Supermicro 即将推出的采用 NVIDIA B200  GB200 的系統陣容包括:

  • Supermicro 的 NVIDIA HGX B200 8 GPU 風冷和液冷系統,可實現最高的生成式人工智能訓練性能。該系統采用 8 個 NVIDIA Blackwell GPU,通過第五代 NVLink 連接,具有 1.5TB 高帶寬内存(高達 60TB/s),可加快人工智能訓練工作負載。

  • Supermicro 最暢銷的人工智能訓練系統,配備 NVIDIA HGX H100/H200 8-GPU 的 4U/8U 系統,将支持 NVIDIA 即将推出的HGX B100 8-GPU。

  • Supermicro 機架級解決方案,以 GB200 Superchip 系統作為服務器節點,每個節點 2 個 Grace CPU 和 4 個 NVIDIA Blackwell GPU。Supermicro 直達芯片的液體冷卻可最大限度地增加密度,72 個 GB200 192GB GPU(每個 GPU 1200W TDP)全部裝在單個 44U ORV3 機架中。


Supermicro 将參與 2024  GPU 大會


Supermicro 将于 3 月 18 日至 21 日在聖何塞會議中心舉行的 2024年 NVIDIA GPU 大會活動上展示用于人工智能的完整 GPU 系統産品組合。參觀 Supermicro 的 #1016 号展位,了解為各種人工智能應用打造的解決方案,包括訓練生成式人工智能模型、人工智能推理和邊緣人工智能。Supermicro 還将展示兩種機架級解決方案,包括一個概念機架,其系統采用即将推出的 NVIDIA GB200,該機架具有 72 個與第五代 NVLink 互連的液冷 GPU。


将在 2024 年 GPU 大會上展出的 Supermicro 解決方案包括:

  • Supermicro 液冷人工智能訓練機架,采用 8 個 4U 8-GPU 系統,配備 NVIDIA HGX H200 8-GPU

  • 帶有液冷式 MGX 系統節點的 Supermicro 概念 ORV3 機架,共涵蓋通過第五代 NVLink 連接的 72 個 NVIDIA GB200 超級芯片

  • Supermicro MGX 系統,包括 1U 液冷的 NVIDIA GH200 Grace Hopper 超級芯片系統

  • 用于在邊緣提供 GPU 計算的 Supermicro 短深度 Hyper-E 系統

  • 用于高性能人工智能數據管道的 Supermicro Petascale 全閃存存儲系統


關于 Super Micro Computer, Inc.

Supermicro(納斯達克股票代碼:SMCI)是應用優化整體 IT 解決方案的全球領軍企業。Supermicro 成立于加州聖何塞并在該地運營,緻力于為企業、雲計算、人工智能和 5G 電信/邊緣 IT 基礎設施提供率先面市的創新。我們是服務器、人工智能、存儲、物聯網、交換機系統、軟件和支持服務的整體 IT 解決方案制造商。Supermicro 的主闆、電源和機箱設計專業知識,更進一步推動了我們的研發和生産,為我們的全球客戶提供了從雲端到邊緣的下一代創新技術。我們的産品均在公司内部(包括美國、亞洲和荷蘭)完成設計和制造,通過全球運營實現規模和效益,從而優化總體擁有成本 (TCO),并能夠(通過綠色計算)減少對環境的影響。獲獎無數的 Server Building Block Solutions® 通過我們靈活可重複使用的構建塊,為客戶提供了豐富的可選系統産品系列,用于優化其确切的工作負載和應用。這些構建塊支持全系列外形規格、處理器、内存、GPU、存儲、網絡、電源和冷卻解決方案(空調、自然空氣冷卻或液體冷卻)。


 

 


微信掃碼 > 右上角點擊 > 分享