NVIDIA si unirà a più di 1000 GPU tramite fibra con connessione ottica

In precedenza, abbiamo già discusso dei vantaggi dell’abbandono del trasferimento utilizzando elettroni sostituendolo con fotoni. Ed è che, questo permette di trasmettere dati al velocità della luce, letteralmente. Sebbene sia vero che le interconnessioni elettriche tra i componenti siano molto più economiche, il loro limite è stato raggiunto. Quindi è tempo di innovare e NVIDIA ha insegnato come si sarebbero collegati oltre 1.000 GPU tramite connessione ottica.

La connessione e il trasferimento di dati attraverso l’elettricità, usando gli elettroni, è stato un modo economico e ha offerto buone prestazioni. Tuttavia, sta cercando limitato mentre progrediamo e abbiamo bisogno di più larghezza di banda. Quindi verrà il giorno in cui dovremo scartare questo metodo e passare ai fotoni, cambiando il rame di fibra ottica.

Larghezza di banda, segnale elettrico e portata su una GPU

Il capo della scienza di NVIDIA, Bill Dally, ha presentato questi risultati a una conferenza sulla comunicazione di fibra ottica. In essi osserviamo che sia il decremento di nanometri in nodi come l’aumento di Bit rate in termini di larghezza di banda, fanno perdere efficacia al metodo attuale. Infatti vediamo a far cadere nel scopo che consente il trasferimento di dati da elettricità ed elettroni. Pertanto, NVIDIA pianifica una soluzione al problema, siglando una collaborazione per la ricerca e sviluppo con Laboratori Ayar.

Ciò si concentra sulla tecnologia di interconnessione fotonica del silicio e sull’utilizzo di connessioni ottiche di cui NVIDIA vuole beneficiare nelle sue GPU. Ha infatti partecipato alla raccolta fondi per la Serie C di Ayar Labs, ottenendo 130 milioni di dollari per creare le loro interconnessioni laser e fotoniche al silicio.

Dally del dipartimento scientifico di NVIDIA ha spiegato che intendono utilizzare “Multiplexing a divisione d’onda densa” o DWDM insieme a questa tecnologia di connessione ottica per unire diversi Rack GPU. I miglioramenti sono evidenti, poiché a minor consumo di energia Rispetto a lui cavo. Secondo il densitàQuesto sarà più alto che se usi a PCB e infine il scopo sarà superiore a tutti e uguale a COC di 100 metri.

NVIDIA Echelon, il primo sistema con ottica

NVIDIA si è già sviluppata più di un decennio fa, in 2010 un sistema a esascala chiamato “scaglione“. Questa macchina aveva motori matematici collegati elettricamente e interconnessioni ottiche Cray Ariete tra le scaffalature. Anche così, non è arrivato sul mercato, ma ciò non ha impedito a NVIDIA di utilizzarlo come idea nei suoi progetti. Ed è che l’azienda ha adottato l’interconnessione della memoria NVSwitch di Dally per produrre processori GPU NUMA con collegamenti Multiporta InfiniBand.

In effetti, questo stesso NVSwitch è stato utilizzato per i sistemi NVIDIA DGX attuale, con GPU Volta V100 Y Ampere A100. Tuttavia, può scalare solo fino a 16 schede grafiche alla volta e quando raddoppiare la larghezza di bandapossono essere solo raggruppati 8 GPU. Tuttavia, NVIDIA ha affermato che riuscirà a implementare fino a 256 GPU H100 e sarà commercializzato alla fine di quest’anno. Questo è un enorme passo avanti, ma tieni presente che è ancora limitato dal cablaggio elettrico piuttosto che dall’utilizzo di una connessione fotone-ottica.

Questa è la connessione ottica fotonica della GPU NVIDIA che utilizza NVSwitch

Questo sarebbe il diagramma di come la GPU NVIDIA e NVSwitch avrebbero motori ottici (Motore ottico) per convertire il segnale elettrico in ottico e il sistema funziona utilizzandolo. Quindi abbiamo un totale di 24 collegamenti NV che esce da ciascun motore ottico a 200 GB/s offrendo un a larghezza di banda combinata di 4,8 TB/s. Ciò significa che un NVSwitch con 6 motori ottici avrebbe una capacità 28,8 TB/s grezzo Y 25,6 TB/s dopo aver sottratto l’overhead di codifica.

Detto questo, l’efficienza energetica utilizzando questa connessione ottica con GPU NVIDIA dovrebbe essere molto più elevata. Quindi, un consumo di 3,5 picojoule per bit con una gamma di 100 metri. Nel frattempo, la versione elettrica utilizzata dai sistemi DGX-A100 di NVIDIA consuma 8 picojoule per bit con una gamma di 300 centimetri.

Pertanto, si prevede che con questo metodo sia possibile creare sistemi con più di 1000 GPU NVIDIA interconnesse e tutto con il metà del consumo mediante trasferimento di dati. Inoltre, come vediamo nei rendering concettuali, il layout di GPU e Switch è organizzato forma eretta. Questo aiuterà il refrigerazione e poiché non sono collegati a un PCB con presa, consente di risparmiare sui costi.