Obrazek przedstawia logo firmy NVIDIA.

Nowy superkomputer Nvidii to potwór do szkolenia AI

Nowy system Nvidia DGX GH200 osiąga wydajność 1 exaflopa. Dedykowany AI potwór zapakuje zdumiewające 144 TB współdzielonej pamięci.

Rozwój AI pędzi na złamanie karku

W ekspresowym tempie powstają nowe produkty i usługi oparte o sztuczną inteligencję: graficy poprawiający zdjęcia na podstawie tekstowych instrukcji, dubbing na zawołanie czy duchowi przywódcy służący rada i wsparciem… wydaje się, że jedynym ograniczeniem szybkości rozwoju algorytmów są tylko kwestie sprzętowe, ale i tu łamiemy kolejne bariery. Aż strach pomyśleć, co będzie możliwe z nowym komputerem Nvidii.

Technologiczny gigant pochwalił się opracowywanym potworem – potężnym superkomputerem Nvidia DGX GH200, przeznaczonym do trenowania modeli sztucznej inteligencji nowej generacji. Sprzęt będzie w stanie osiągnąć wydajność 1 exaflop (zdolność do obliczenia jednego kwintyliona operacji zmiennoprzecinkowych na sekundę). Zbudowany z 256 chipów GH200, system zapakuje zdumiewające 144 TB współdzielonej pamięci, czyli 500 razy więcej niż poprzedni superkomputer Nvidii, DGX A100 sprzed trzech lat.

Aby wycisnąć maksymalną moc systemu, każdy superchip GH200 składa się z firmowego procesora Grace i procesora graficznego H100 Tensor Core w jednym pakiecie, pozwalając im komunikować się ze sobą siedem razy szybciej niż połączenie PCIe i zużywając zaledwie jedną piątą energii elektrycznej. Wszystkie zostaną połączone ze sobą za pośrednictwem systemu przełączników Nvidia NVLink, aby działać razem jako jeden duży procesor graficzny.

Superkomputer DGX GH200 AI (Źródło: nvidianews)
Superkomputer DGX GH200 AI (Źródło: nvidianews)

Zdumiewająco szybki potwór

Powstały superkomputer będzie używany do szkolenia następców ChatGPT i innych generatywnych modeli sztucznej inteligencji i dużych modeli językowych. Najsłynniejszy AI został przeszkolony na niestandardowym superkomputerze, który Microsoft zbudował z dziesiątek tysięcy wcześniejszych procesorów graficznych Nvidia A100. Firma po raz kolejny jest jedną z pierwszych w kolejce do nowego sprzętu, wraz z Meta i Google Cloud.

Jednak amerykańska korporacja nie tylko dostarcza sprzęt innym firmom. Nvidia ogłosiła również plany budowy własnego superkomputera opartego o DGX GH200 o nazwie Helios. Będzie się składał z czterech potworów DGX, co da mu łącznie 4 eksaflopy wydajności.

Komputery tego typu będą w stanie produkować modele AI w ciągu tygodni zamiast miesięcy. Najwyższy czas porządnie przyłożyć się do dopracowania CV i rozwoju kompetencji, zanim AI wygryzie nas z roboty.