La Nvidia H100 SXM (4nm + 80GB HBM3) posa per la fotocamera

Oggi ci imbattiamo nella prima vera fotografia di a Nvidia H100 nel suo formato SXM, che si distingue per l’utilizzo di un chip grafico Nvidia GH100 basato sull’architettura Hopper prodotta da TSMC utilizzando il processo di produzione di 4 nm.

Per il resto non c’è nulla di nuovo, quindi vi ricordiamo semplicemente le specifiche di questa GPU che abbiamo potuto vedere la scorsa settimana in vendita in Giappone ad un prezzo vicino a 35.000 euro.

Per questo prezzo si acquista una GPU che integra nientemeno che 80 miliardi di transistor grazie all’utilizzo del processo di produzione più avanzato del momento, e questo non è altro che il 4 nm da TSMC. il tuo chip grafico Nvidia GH100che mantiene il design monolitico, offre una configurazione di 18432 Nuclei CUDA accompagnato nientemeno che 80 GB di memoria HBM3che è in grado di offrire una larghezza di banda di 3 TB/scioè un 50 per cento in più rispetto a Nvidia A100.

In termini di prestazioni, si parla 60 TFLOP FP64/FP321.000 TFLOP TF32 e 2.000 TFLOP FP16, il che implica moltiplica x3 le prestazioni della Nvidia A100. Quando si tratta di prestazioni FP8, lo moltiplica x6 al raggiungimento di 4.000 TFLOP. A causa di questo aumento di potenza, viene utilizzata anche l’interfaccia PCI Express 5.0 per ottenere una larghezza di banda di 128 GB/s (contro 64 GB/s) e la tecnologia di interconnessione NVLink di 4a generazione che offre una larghezza di banda di 900 GB/s (+50%).

Tutto questo ha un costo energetico elevato, visto che si tratta di un TDP di 700 W, un salto di qualità rispetto ai 400W consumati dal top di gamma Nvidia A100 con 80GB di memoria HBM2e. Cioè, il consumo di energia cresce del 75% in cambio dell’offerta di un miglioramento delle prestazioni fino al 600% e mentre la larghezza di banda aumenta del 50%.

attraverso: Servire La Casa