24萬元一片！NVIDIA最強GPU全面投產，超 50 款服務器型號面世

2022-09-22 來源：華強微電子

9490

關鍵詞： NVIDIA GPU 服務器

9月22日消息，在昨晚的GTC 2022大會（上下半年各一次），NVIDIA不僅發布了RTX4080/4090系列顯卡，還宣布了一件事，那就是3月份發布的計算卡H100終于開始出貨，也是10月份開始上市。

換言之，英偉達NVIDIA H100 Tensor Core GPU全面投產，NVIDIA全球技術合作伙伴計劃于10月推出首批基于開創性NVIDIA Hopper架構的產品和服務。

實際上，H100加速卡今年3月份的GTC大會上發布，距今剛好半年了，采用Hopper架構，GH100大核心，臺積電4nm制造工藝、CoWoS 2.5D封裝技術，集成800億個晶體管，核心面積814平方毫米。

據悉，它擁有18432個CUDA核心、576個Tensor核心、60MB二級緩存，支持6144-bit位寬的六顆HBM3/HBM2e，支持PCIe 5.0，支持第四代NVLink總線。

來源：網絡

另外，H100計算卡有SXM、PCIe 5.0兩種樣式，其中SXM版本15872個CUDA核心、528個Tensor核心，PCIe 5.0版本14952個CUDA核心、456個Tensor核心，功耗最高達700W。

編者也了解到，關鍵的是，H100使企業能夠削減AI的部署成本，相較于上一代，在提供相同AI性能的情況下，可將能效提高3.5倍，總體擁有成本減少至1/3，所使用的服務器節點數也減少至1/5。

可喜的是，NVIDIA DGX H100系統現在也已開始接受客戶預定。該系統包含8個H100 GPU，FP8精度的峰值性能達到32PFlops。每個DGX系統都包含NVIDIA Base Command和NVIDIA AI Enterprise軟件，可實現從單一節點到NVIDIA DGX SuperPOD的集群部署，為大型語言模型和其他大規模工作負載的高級AI開發工作提供支持。

對于需求方最關心的問題，H100的價格沒有官方消息，不過之前日本市場有過預售，PCIe版本的都要475多萬日元，人民幣要24萬元以上了，SXM版價格應該會更貴。

但也有最新消息顯示，H100加速卡10月份上市，其中亞馬遜、谷歌及微軟三大云服務供應商會率先采用，還有就是科研機構及高校，洛斯阿拉莫斯國家實驗室和瑞士國家超級計算中心、日本筑波大學也會采購。

另一方面，全球領先的計算機制造商所提供的搭載H100的系統預計將在未來幾周內發貨，到今年年底將有超過50款服務器型號面市，2023年上半年還將有數十款型號面市。已在構建系統的合作伙伴包括源訊（Atos）、思科、戴爾科技、富士通、技嘉科技、慧與、聯想和超微。

回顧數日前（9月19日），據中國臺灣省《經濟日報》報道，全球GPU龍頭英偉達近期對臺積電下了“超級急件（super hot runs）”訂單，以提前生產原計劃明年出貨的部分產品。傳聞稱，這批“超級急件”涉及5000片晶圓產能，相關產品的交期將大幅縮短，從原本預估的5-6個月，壓縮至2-3個月，臺積電最快將在10月底至11月初向英偉達開始交貨。

由此看來，NVIDIA在GTC 2022上宣布 NVIDIA H100 Tensor Core GPU全面投產，也算是對上述傳聞的“表態”了。

為何如此著急？皆因在8月底，美國方面命令NVIDIA及AMD停止向中國大陸、中國香港和俄羅斯銷售部分高性能GPU，其中就包括NVIDIA的A100和H100。