Tesla H100 80GB NVIDIA Deep Learning GPU Compute Graphics Card 900-21010-000-

  H100 SXM H100 PCIe
FP64 34 teraFLOPS 26 teraFLOPS
FP64 Tensor Core 67 teraFLOPS 51 teraFLOPS
FP32 67 teraFLOPS 51 teraFLOPS
TF32 Tensor Core 989 teraFLOPS* 756teraFLOPS*
BFLOAT16 Tensor Core 1979 teraFLOPS* 1,513 teraFLOPS*
FP16 Tensor Core 1979 teraFLOPS* 1,513 teraFLOPS*
FP8 Tensor Core 3958 teraFLOPS* 3026 teraFLOPS*
INT8 Tensor Core 3958 TOPS* 3026 TOPS*
GPU  80GB 80GB
GPU  3.35TB/s 2TB/s
  7 NVDEC
7 JPEG
7 NVDEC
7 JPEG
 (TDP) 700W 300-350 W
GPU 最多 7 个 MIG @每个 10GB
  SXM PCIe
 
互连技术 NVLink:900GB/s PCIe 5.0:128GB/s NVLink:600GB/s PCIe 5.0:128GB/s
服务器选项 NVIDIA HGX H100 合作伙伴和配备 4 或 8 个 GPU 的 NVIDIA 认证系统 ,配备 8 个 GPU 的 NVIDIA DGX H100 搭载 1 至 8 个 GPU 的合作伙伴系统及 NVIDIA 认证系统
NVIDIA AI Enterprise