CoreWeave i jego partnerzy dostarczyli pierwsze na świecie wdrożenie w chmurze systemu NVIDIA GB300 NVL72, zapewniając szybsze szkolenie, mniejsze opóźnienia i bardziej wydajną infrastrukturę AI w czasie rzeczywistym.
Świetna orkiestra to nie tylko zbiór światowej klasy muzyków; to spójna całość, w której każda sekcja (instrumenty dęte blaszane, smyczkowe, perkusja) jest precyzyjnie zgrana i dostrojona, by zapewnić bezbłędne wykonanie.
W przypadku infrastruktury AI obowiązują te same zasady. Wydajność AI o znaczeniu krytycznym to nie tylko kwestia dodawania kolejnych procesorów graficznych (GPU). Chodzi o koordynację mocy obliczeniowej, zasilania, chłodzenia i sieci, tak aby działały one jako jeden system, jedna całość.
Właśnie to planują firmy Vertiv, CoreWeave i ich partnerzy w ramach systemu NVIDIA GB300 NVL72. Nie jest to koncepcja ani niestandardowe, jednorazowe rozwiązanie. To ujednolicona infrastruktura stworzona z myślą o AI na dużą skalę.
Nowy standard dla infrastruktury AI
CoreWeave, hiperskaler AI dla układów GPU i obliczeń w chmurze, przeprowadza pierwsze wdrożenie rozwiązania NVIDIA GB300 NVL72 zainstalowanego w zintegrowanym systemie szaf firmy Dell. (Zbadaj architekturę)
CoreWeave jest liderem w dziedzinie infrastruktury chmurowej AI, dzięki wcześniejszym wdrożeniom platform NVIDIA HGX H100 i H200. Wdrożenie rozwiązania NVIDIA GB300 NVL72 kontynuuje ten trend.
Wzrost wydajności mówi sam za siebie:
- nawet 50-krotny wzrost wydajności wnioskowania w porównaniu z procesorem Hopper
- 10-krotna poprawa szybkości reakcji na działania użytkownika
- 5×-razy większa przepustowość na wat
- 1,5-krotnie większa wydajność FP4 (4-bitowy zmiennoprzecinkowy) w porównaniu z Blackwell
- 1,5-krotnie więcej pamięci, nawet 21TB pamięci GPU w porównaniu z Blackwell
- 2× przepustowość NVIDIA Quantum InfiniBand na układ GPU w porównaniu z systemami poprzedniej generacji
Infrastruktura skalowalna wraz z rozwojem technologii krzemowej
Aby obsługiwać systemy na tak dużą skalę, systemy chłodzenia i zasilania muszą być projektowane równie starannie, jak same zasoby obliczeniowe. Przy pełnym obciążeniu każda szafa serwerowa NVIDIA GB300 NVL72 pobiera około 140 kW i jest chłodzona cieczą. Właśnie w tym zakresie kluczową rolę odgrywa Vertiv.
Jednostki dystrybucji chłodzenia (CDU) Vertiv™ CoolChip zostały zaprojektowane specjalnie do tych warunków. System zapewnia:
- odprowadzanie ciepła typu ciecz-ciecz o mocy 121 kW, idealnie dopasowane i zoptymalizowane pod kątem szafy NVIDIA GB300 NVL72
- Zgodność z temperaturami wody na wlocie określonymi w normie ASHRAE W5
- Redundantne pompy i podwójne wymienniki ciepła zapewniające odporność na awarie
- Zautomatyzowane sterowanie pętlą w celu zapewnienia pracy w stanie ustalonym
Oferta Vertiv obejmuje również usługi usprawniające wdrożenie i optymalizujące wydajność, w tym:
- Modelowanie CFD (Computational Fluid Dynamics) oraz symulacje termiczne w celu optymalizacji przepływu powietrza i uniknięcia konieczności wprowadzania zmian projektowych na późnym etapie
- Planowanie białych przestrzeni i integracji w celu dostosowania chłodzenia, zasilania i sterowania pętlą do układu szaf
- Monitorowanie w czasie rzeczywistym i sterowanie pętlą w celu stabilizacji wydajności przy dynamicznych obciążeniach procesorów graficznych
- Projekty referencyjne i zasoby SimReady dla systemów NVIDIA GB200 i GB300, umożliwiające cyfrową walidację przed budową
Widok z przodu szafy NVIDIA GB300 NVL72 wdrożonej przez CoreWeave, prezentujący wysokowydajną infrastrukturę GPU wspieraną przez system chłodzenia cieczą Vertiv™ CoolChip CDU (Coolant Distribution Unit), zaprojektowany do obsługi ekstremalnych obciążeń termicznych. (Zdjęcie dzięki uprzejmości Switch)
Szybkie wdrażanie AI – współpraca
Wdrożenie infrastruktury AI nowej generacji to nie tylko kwestia tego, co znajduje się wewnątrz szafy serwerowej. Chodzi o szybkie przejście od projektu do wdrożenia oraz o to, jak ściśle partnerzy współpracują ze sobą w trakcie tego procesu.
Wdrożenie przez CoreWeave rozwiązania NVIDIA GB300 NVL72 pokazuje ten proces w praktyce: wspólny wysiłek mający na celu uruchomienie platformy AI w skali szafy rackowej, zaprojektowanej z myślą o obciążeniach rzędu ~140 kW, chłodzonej cieczą i przeznaczonej do gęstych, nieprzerwanych obciążeń związanych z wnioskowaniem.
Jak ujął to CoreWeave, posługując się analogią ze świata sportu, a nie muzyki:
„Wytyczanie przyszłości infrastruktury AI to sport zespołowy. Nasza współpraca z firmami Dell, Switch i Vertiv przy wdrożeniu karty NVIDIA GB300 NVL72 ma fundamentalne znaczenie dla naszej szybkości i elastyczności, zapewniając kluczowe wsparcie, którego potrzebujemy, aby w bezprecedensowym tempie urzeczywistniać przełomowe technologie dla naszych klientów”.
Vertiv wsparło wdrożenie wstępnie zweryfikowanymi systemami chłodzenia cieczą oraz wiedzą inżynierską, zapewniając firmom CoreWeave i Dell zharmonizowaną infrastrukturę niezbędną do działania z prędkością światła.
W jakim kierunku zmierza infrastruktura
Wdrożenie rozwiązania NVIDIA GB300 NVL72 przez firmy CoreWeave i Dell, przy wsparciu Vertiv, oznacza zmianę w sposobie projektowania i dostarczania infrastruktury AI. Biorąc pod uwagę tempo zmian w dziedzinie sztucznej inteligencji, bardziej trafnym porównaniem mogłaby być muzyka elektroniczna, a nie klasyczna. Jednak niezależnie od formy, analogia do zgranej orkiestry lub zespołu – a nie zbioru solistów – nadal ma zastosowanie. Prawdziwa integracja, współpraca i wspólny rozwój mają kluczowe znaczenie dla symfonicznego wykonania opartego na sztucznej inteligencji.
Dowiedz się, jak zintegrować zasilanie, chłodzenie i moc obliczeniową, aby uzyskać optymalną wydajność sztucznej inteligencji w Vertiv AI Hub.