fino a 24 core Zen 4 + GPU CDNA 3 con HBM3 da 192 GB

Stamattina parlavamo della serie di APU Istinto MI300e ora è stato quando AMD hai finito di inserire le informazioni confermando le specifiche tecniche di questo SuperAPU per i server. Lo chiamiamo super APU, poiché abbiamo in un singolo chip che abbiamo una CPU con i nuclei AMDZen 4 alte prestazioni. D’altra parte, abbiamo una GPU con architettura professionale AMD CDNA 3. Come se non bastasse, tutto questo è accompagnato da la memoria più veloce sul mercato sotto lo stesso pacchetto.

Questo ricordo riguarda HBM3. In questo modo, abbiamo un’APU dalle prestazioni bestiali per i server che cercheranno di combattere con Intel e NVIDIA in diversi segmenti. In linea di principio, AMD afferma che lo sarà Leader dell’accelerazione AI grazie al tuo Istinto MI300X, che è la versione top di gamma. Ora è il momento di sapere davvero cosa si nasconde dietro quel nome.

Specifiche AMD Instinct MI300A e MI300X

Sotto il nome di AMD Istinto MI300A troviamo un’APU che può essere configurata con fino a 24 core AMD Zen 4. Questi possono essere accompagnati da una GPU con fino a 14.592 Stream Processor sotto l’architettura CDNA 3. Finiamo con fino a 128 GB di memoria HBM2. Questa è la prima APU AMD progettata per l’accelerazione AI e HPC. Il suo design a chiplet combina i processi di produzione di 5nm e 6nme i 128 GB di memoria HBM3 sono condivisi per CPU e GPU.

Lui AMD Istinto MI300X è puramente incentrato sull’intelligenza artificiale. Ecco perché a livello di GPU offre fino a 19.456 Stream Processor sotto l’architettura CDNA 3. Qui la CPU scomparema lo spazio libero viene utilizzato per aggiungere fino a 192 GB di memoria HBM3. Questo si traduce in offerta una larghezza di banda di memoria di 5,2 TB/s. Per evitare colli di bottiglia, abbiamo l’interfaccia Infinity Fabric in grado di interconnettere tutto con una larghezza di banda di 896 GB/s.

Grazie all’ampia capacità di memoria dell’AMD Instinct MI300X, i clienti possono ora installare modelli di linguaggio di grandi dimensioni, come Falcon-40, un modello con 40 miliardi di parametri, su un singolo acceleratore MI300X.

Resto delle informazioni e primi indizi sulle prestazioni

Queste APU sono collegate a un nuovo socket chiamato AMD SH5. Ciò consentirà configurazioni di fino a quattro chip combinati utilizzando l’ultima interconnessione Infinity Fabric e i nuovi Switch di interconnessione per una maggiore larghezza di banda e velocità di interconnessione.

Nei recenti confronti delle prestazioni, AMD ha dimostrato che il suo Instinct MI300 Prestazioni dell’IA 8 volte superiori (TFLOPS) e di 5 prestazioni AI per watt (TFLOP/watt) rispetto a Istinto MI250X. Sfortunatamente, non ci sono benchmark delle prestazioni rispetto ad altre soluzioni sul mercato dei suoi rivali.

Almeno AMD ha menzionato NVIDIA in un aspetto, ed era nella larghezza di banda del suo acceleratore AI. Nello specifico, il tuo Instinct MI300X offre 60% in più di larghezza di banda secondo il NVIDIA H100. Per quanto riguarda densità, capacità di memoria, offre 2,4 volte di più. La società indica che una piattaforma AMD Instinc È possibile aggiungere fino a 8x MI300X. Ciò si traduce in una configurazione di fino a 1,5 TB di memoria HBM3.