実体のNVIDIAH100SXM：4nmホッパーGPU +80GBHBM3メモリ

NVIDIAの次世代ホッパーH100SXMは肉体で発見されており、これまで…レンダリングしか見たことがないので、これはH100GPUの最初の実際の写真です。

ギャラリーを見る-2枚の画像

次世代のHopperH100SXM GPUは、ServeTheHomeのPatrick Kennedyによって、「PG520」のボードモデルを備えたデバイスで実際に描かれました。 内部では、NVIDIA H100 GPUはTSMCの最新のCoWoSパッケージングテクノロジーを使用しており、その周りに6つのメモリモジュールを備えた巨大な814mm2 H100 GPUダイを備えています。正確には、80GBの超高速HBM3メモリです。

NVIDIAの新しいH100GPU自体は、CUDAコアの2つのカウントを持つ2つの形式で提供されます。SXMバリアント用の16896 FP32 CUDAコアと、PCIeベースモデル用の14592コアです。 ここにあるモデルはSXMバリアントであるため、完全な16896FP32CUDAコアと80GBのHBM3メモリがあります。

最大700Wの消費電力数を調べています。これは、データセンターGPU形式の以前のAmpereおよびVolta GPUアーキテクチャからの大幅なアップグレードです。400〜450Wを使用します。つまり、H100は最大250〜300W多くの電力を使用します。