CoreWeave et ses partenaires ont livré le premier déploiement infonuagique au monde du système GB300 NVL72 de NVIDIA, ce qui a permis une formation plus rapide, une latence plus faible et une infrastructure plus efficace pour l’IA en temps réel.
Un orchestre acclamé n’est pas seulement une collection de musiciens de classe mondiale; c’est une entité unique où chaque section (laiton, cordes, percussion) est précisément chronométrée et réglée pour offrir une performance impeccable.
En ce qui concerne l’infrastructure d’IA, les mêmes principes s’appliquent. La performance de l’IA essentielle ne consiste pas seulement à ajouter plus de processeurs graphiques. Il s’agit de coordonner l’informatique, l’alimentation, le refroidissement et le réseautage afin qu’ils fonctionnent comme un seul système, une seule unité.
C’est exactement ce que Vertiv, CoreWeave et ses partenaires planifient avec le système NVIDIA GB300 NVL72. Il ne s’agit pas d’un concept ou d’un concept unique personnalisé. Il s’agit d’une infrastructure unifiée conçue pour l’IA à grande échelle.
Une nouvelle norme pour l’infrastructure d’IA
CoreWeave, l’Hyperscaler de l’IA pour le GPU et l’informatique en nuage, effectue le premier déploiement du NVIDIA GB300 NVL72 hébergé dans le système de bâti intégré de Dell. (Explorer l’architecture)
CoreWeave a été à l’avant-garde de l’infrastructure infonuagique de l’IA, avec des déploiements antérieurs des plateformes NVIDIA HGX H100 et H200. Son déploiement NVIDIA GB300 NVL72 poursuit cette tendance.
Les gains de rendement parlent d’eux-mêmes :
- Jusqu’à 50× d’augmentation de la production d’inférence pour le raisonnement des charges de travail par rapport à Hopper
- Amélioration de 10 fois de la réactivité de l’utilisateur
- Débit 5 fois plus élevé par watt
- 1,5 fois plus de performance FP4 (4 bits à virgule flottante) par rapport à Blackwell
- 1,5 fois plus de mémoire pour jusqu’à 21TB de mémoire GPU par bâti par rapport à Blackwell
- Bande passante NVIDIA Quantum InfiniBand 2x par processeur graphique par rapport aux systèmes de génération précédente
Infrastructure qui s’adapte au silicium
Pour faire fonctionner les systèmes à cette échelle, le refroidissement et l’alimentation doivent être conçus aussi délibérément que le calcul. À pleine charge, chaque bâti NVIDIA GB300 NVL72 consomme environ 140 kW et est refroidi par liquide. C’est là que la contribution de Vertiv est essentielle.
Les unités de distribution de refroidissement (CDU) CoolChip de Vertiv™’adaptent à ces conditions. Le système offre :
- 121kW de rejet de chaleur liquide à liquide idéalement dimensionné et optimisé pour l’armoire NVIDIA GB300 NVL72
- Compatibilité avec les températures d'entrée d'eau ASHRAE W5
- Pompes redondantes et deux échangeurs de chaleur pour la tolérance aux pannes
- Commande de boucle automatisée pour un fonctionnement à l’état d’équilibre
Les capacités de Vertiv comprennent également des services qui rationalisent le déploiement et optimisent l’efficacité, notamment :
- Modélisation et simulation thermique CFD (Computational Fluid Dynamics) pour optimiser le flux d’air et éviter les remaniements en phase tardive
- Planification de l’espace blanc et de l’intégration pour aligner le refroidissement, l’alimentation et le contrôle de boucle avec la disposition du bâti
- Surveillance et contrôle de boucle en temps réel pour stabiliser la performance sous des charges GPU dynamiques
- Conceptions de référence et actifs SimReady pour les systèmes NVIDIA GB200 et GB300, permettant la validation numérique avant la construction
Vue avant d’un bâti NVIDIA GB300 NVL72 déployé par CoreWeave, présentant une infrastructure GPU haute performance prise en charge par le système de refroidissement liquide CoolChip CDU (Coolant Distribution Unit) de Vertiv™. (Photo gracieuseté de Switch)
Exécution rapide de l’IA – ensemble
Offrir une infrastructure d’IA de nouvelle génération ne se limite pas à ce qui se trouve à l’intérieur du bâti. Il s’agit de passer rapidement de la conception au déploiement, et de déterminer dans quelle mesure vos partenaires sont alignés tout au long de ce processus.
Le déploiement de CoreWeave du NVIDIA GB300 NVL72 montre ce processus en pratique : un effort de collaboration pour mettre en ligne une plateforme d’IA à l’échelle du bâti, conçue pour des charges d’environ 140 kW, refroidies par liquide et des charges de travail d’inférence denses et toujours actives.
Comme le dit CoreWeave, en utilisant une analogie sportive plutôt que musicale :
« Pionner l’avenir de l’infrastructure de l’IA est un sport d’équipe. Notre collaboration conjointe avec Dell, Switch et Vertiv sur ce déploiement du NVIDIA GB300 NVL72 est fondamentale à notre vitesse et à notre agilité, fournissant le soutien essentiel dont nous avons besoin pour transformer une technologie révolutionnaire en réalité pour nos clients à un rythme sans précédent. »
Vertiv a soutenu le déploiement avec des systèmes de refroidissement liquide prévalidés et une expertise en ingénierie, donnant à CoreWeave et Dell l’alignement de l’infrastructure nécessaire pour se déplacer à la vitesse de la lumière.
Où se dirige l’infrastructure
Le déploiement du NVIDIA GB300 NVL72 par CoreWeave et Dell avec le soutien de Vertiv marque un changement dans la façon dont l’infrastructure d’IA est conçue et livrée. Compte tenu du taux de changement dans l’IA, une comparaison plus appropriée pourrait être la musique électronique plutôt que la musique classique. Mais quelle que soit sa forme, l’analogie d’un orchestre ou d’un groupe uni, plutôt que d’un assemblage de joueurs en solo, se tient toujours. L’intégration, la coopération et le co-développement véritables sont essentiels pour une performance d’IA symphonique.
Découvrez comment intégrer l’alimentation, le refroidissement et l’informatique pour une performance optimale de l’IA sur le concentrateur d’IA de Vertiv.