Firma NVIDIA zaprezentowała najnowszą platformę, która przeznaczona jest do poprawy wydajności chmur tworzonych na sieci Ethernet, wykorzystywanych przez sztuczną inteligencję. Jak działa Spectrum-X?
W jaki sposób opracowano platformę dedykowaną dla AI?
Nowa platforma NVIDIA Spectrum X to dokładne połączenie przełącznika Spectrum-4, wraz z procesorem BlueField-3. Dzięki temu system mógł sprawić, by wydajność generatywnej sztucznej inteligencji (AI) wzrosła aż 1,7 razy. Wzrostowi uległa także efektywność energetyczna i przewidywalna wydajność wielu innych środowisk.
Wdrożony przełącznik charakteryzuje się dostępem do Ethernet 51 Tb/s i opracowany został specjalnie dla sieci sztucznych inteligencji. Wsparciem dla tego urządzenia jest zaawansowane rozszerzenie protokołu sieciowego RoCE, które umożliwia komunikację danych pamięci między aplikacjami poprzez sieć. Oznacza to, że system może w pełni współpracować również z jednostkami układów optycznych takich, jak LinkX czy DPU BlueField-3.
Rozwiązanie to pozwala więc na znaczące skrócenie i przyspieszenie działania generatywnych modeli AI, których funkcjonowanie opiera się o transformatory. Stworzona przez NVIDIA Spectrum-X jest pierwszą na świecie platformą bezpośrednio dedykowaną sztucznej inteligencji.
Gdzie może zostać wykorzystana nowa platforma NVIDIA?
Wynalazek ten uznawany jest za wysoce wszechstronny, a jego funkcje mogą stanowić podstawę różnych aplikacji, działających w oparciu o sztuczną inteligencję. Platforma korzysta z sieci Ethernet, a jej możliwości znacząco usprawniają obsługiwanie i wydajność. Wszystko to jest możliwe dzięki oprogramowaniu, które wyposażono w zestawy firmy takie, jak Cumulus Linux, SONiC oraz NetQ.
Pierwsze wykorzystanie nowej platformy ma zostać wdrożone w testach na superkomputerze Israel-1, którego możliwości pozwalają na generowanie obiektów AI w hiperskali. W ośrodku tym wykorzystywane są serwery Dell PowerEdge XR9680, które oparte zostały o platformę HGX H100. Ten superkomputer do końca tego roku ma stać się jednym z najszybszych na świecie.
Technologie transformacyjne, takie jak generatywna sztuczna inteligencja, zmuszają każde przedsiębiorstwo do przekraczania granic wydajności centrów danych w dążeniu do przewagi nad konkurencją.
Gilad Shainer, starszy wiceprezes ds. sieci w firmie NVIDIA
