英偉達(dá)NVIDIA H100 80G GPU顯卡
目前英偉達(dá)提供了數(shù)種不同的H100計算卡,分別為H100 PCIe、H100 SXM和H100 NVL(雙GPU版本)。其中普通的H100配備了80GB的HBM2E,PCIe和SXM5版本都有,H100 NVL則有著188GB的HBM3,對應(yīng)每個GPU為94GB。近日更新的PCI ID列表顯示,英偉達(dá)很快會為H100帶來94GB和64GB的SXM版本,其中前者還會有針對中國市場的版本,型號為H800L 94GB。
64GB很好理解,但是94GB并不是尋常的數(shù)字,與H100 NVL的情況類似,英偉達(dá)并沒有解釋這種容量具體如何配置的。去年還有報道稱,英偉達(dá)還準(zhǔn)備了一款120GB的PCIe版本,不過至今還沒有得到官方的確認(rèn),有可能只是在實驗室測試的工程樣品,終不會出現(xiàn)在任何市場。
完整的GH100芯片配置了8組GPC、72組TPC、144組SM、共18432個FP32 CUDA核心,采用了第四代Tensor Core,共576個,并配有60MB的L2緩存。不過實際產(chǎn)品中沒有全部打開,其中SXM5版本中啟用了132組SM,共16896個FP32 CUDA核心,528個Tensor Core以及50MB的L2緩存,而PCIe 5.0版本則啟用了114組SM,F(xiàn)P32 CUDA核心數(shù)量只有14592個。暫時不清楚擁有更大顯存的H100的核心規(guī)格,估計會延續(xù)現(xiàn)有的配置。