Nvidia GTC 2022, tutte le nuove CPU e GPU per l'intelligenza artificiale

23 Marzo 2022 0

NVIDIA ha annunciato diverse novità in ambito hardware AI durante la conferenza GTC 2022: tra queste elenchiamo l'architettura Hopper di prossima generazione, le prime schede video per datacenter basate su di essa e una "super CPU" sempre per datacenter. Ha anche dichiarato l'intenzione di costruire il più veloce supercomputer AI al mondo, anche se in questo frangente i dettagli sono scarsi. Sintetizziamo tutte le informazioni più importanti.

HOPPER E LE GPU DGX H100

Dell'architettura, il cui nome è un richiamo alla pioniera dell'informatica Grace Hopper, si vociferava già da diverso tempo. NVIDIA dice che si è concentrata in particolare sul miglioramento delle prestazioni di uno dei sistemi di machine learning più popolari e diffusi, noto come Transformer, usato per esempio da DeepMind di Google/Alphabet per il suo algoritmo AlphaFold: rispetto alla precedente generazione di chip, l'architettura accelera questi calcoli fino a sei volte sulle GPU H100.

In realtà l'incremento può essere ancora superiore grazie a una serie di ulteriori innovazioni relative al chip e alla GPU. Le H100 sono schede a ben 80 miliardi di transistor e sono le prime a supportare la tecnologia PCIe di quinta generazione. Usano anche le memorie HBM3, portando quindi la banda complessiva a ben 3 TB/s. La tecnologia NVlink di quarta generazione, infine, permette di connettere fino a 256 schede in serie con una banda 9 volte più ampia rispetto a quella di precedente generazione.

Nel complesso, quindi, sulle H100 l'incremento prestazionale in Transformer è moltiplicato fino a 9 volte: modelli il cui training richiedeva settimane possono ora richiedono qualche giorno appena, dice la società. Triplicano anche le operazioni a virgola mobile 16, 32 e 64 bit, mentre quelle a 8 bit sestuplicano.

CPU GRACE

Il superchip Grace, il complemento ideale di Hopper, consiste di fatto in due CPU connesse direttamente tramite una tecnologia a bassissima latenza chiamata NVlink-C2C. Viene facile fare un parallelismo con con la tecnologia UltraFusion annunciata da Apple con il suo nuovo chip M1 Ultra, e in effetti anche il render sembra mostrare un layout molto simile, ma per ora mancano i dettagli tecnici per fare confronti più approfonditi.

Fatto sta che il chip contiene ben 144 core Arm v9, ma non si sa esattamente quali siano le loro caratteristiche. Sappiamo invece che la RAM è LPDDR5x con ECC, una novità assoluta, e che la banda di memoria totale è di 1 TB/s. NVIDIA spiega che il superchip può essere impiegato sia in sistemi CPU-only sia in quelli accelerati con GPU. Vale anche la pena notare che la tecnologia NVlink-C2C può essere usata per combinare una CPU con una GPU, creando quindi un superchip "Grace Hopper".

SUPERCOMPUTER EOS

In questa fase si tratta di poco più di una nota a margine del lancio delle DGX H100, ma i pochi dati tecnici rilasciati sono già di per sé piuttosto impressionanti: il SuperPOD sarà costituito da 576 sistemi basati su DGX H100, ognuno dei quali contiene 8 GPU: basta una semplice moltiplicazione per concludere quindi che Eos includerà la bellezza di 4.608 GPU AI di ultima generazione.

Nel complesso la potenza di Eos dovrebbe raggiungere ben 18,4 esaFLOPS nelle operazioni AI - quattro volte quelle del supercomputer giapponese Fugaku, attualmente il punto di riferimento del settore. È quindi molto probabile che quando entrerà in funzione, prima della fine di quest'anno, diventerà il computer AI più potente al mondo. Eos non se la caverà male nemmeno nelle operazioni scientifiche tradizionali: la potenza prevista è di 275 petaFLOPS: l'attuale leader, sempre il Fugaku, si spinge fino a 537, in seconda posizione si trova l'IBM Summit con 200.

5G senza compromessi? Oppo Reno 4 Z, in offerta oggi da Teknozone a 245 euro oppure da Amazon a 313 euro.

0

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...

Recensione AMD Ryzen 7 6800U, la iGPU ora convince

Recensione AMD Ryzen 7 5800X3D: la V-Cache 3D funziona alla perfezione

Recensione NVIDIA GeForce RTX 3090 Ti: l'ultimo grido di Ampere

Mac Studio e Studio Display ufficiali: il Mac mini cresce ed è potentissimo | Prezzi