L’intelligence artificielle (IA) est là et elle est là pour rester. « Chaque industrie deviendra une industrie technologique », selon la fondatrice et PDG de NVIDIA, Jensen Huang. Les cas d’utilisation de l’IA sont pratiquement illimités, des percées en médecine à la prévention de la fraude de haute précision. L’IA transforme déjà nos vies tout comme elle transforme chaque industrie. Elle commence également à transformer fondamentalement l’infrastructure du centre de données.
Les charges de travail de l’IA entraînent des changements importants dans la façon dont nous alimentons et refroidissons les données traitées dans le cadre de l’informatique haute performance (HPC). Un bâti informatique typique utilisé pour exécuter des charges de travail de 5 à 10 kilowatts (kW) et des bâtis fonctionnant à des charges supérieures à 20 kW ont été considérés comme haute densité – une rare vue en dehors d’applications très spécifiques avec une portée étroite. L’informatique est accélérée avec des processeurs graphiques pour répondre aux besoins informatiques des modèles d’IA, et ces puces d’IA peuvent nécessiter environ cinq fois plus de puissance et cinq fois plus de capacité de refroidissement1 dans le même espace qu’ un serveur traditionnel. Mark Zuckerberg a annoncé qu’à la fin de 2024, Meta dépensera des milliards pour déployer 350 000 processeurs graphiques H100 de NVIDIA. Des densités de bâti de 40 kW par bâti sont maintenant à l’extrémité inférieure de ce qui est nécessaire pour faciliter les déploiements d’IA, les densités de bâti dépassant 100 kW par bâti devenant courantes et à grande échelle dans un avenir proche.
Cela nécessitera des augmentations importantes de la capacité sur l’ensemble du groupe motopropulseur, du réseau aux puces dans chaque bâti. L’introduction de technologies de refroidissement par liquide dans l’espace blanc du centre de données et, éventuellement, dans les salles de serveurs d’entreprise sera une exigence pour la plupart des déploiements, car les méthodes de refroidissement traditionnelles ne seront pas en mesure de gérer la chaleur générée par les GPU exécutant les calculs d’IA. Les investissements pour mettre à niveau l’infrastructure nécessaire pour alimenter et refroidir le matériel d’IA sont substantiels et il est essentiel de relever ces nouveaux défis de conception.
La transition vers la haute densité
La transition vers l’informatique accélérée ne se fera pas du jour au lendemain. Les concepteurs de centres de données et de salles de serveurs doivent rechercher des moyens de préparer l’infrastructure d’alimentation et de refroidissement pour l’avenir, en tenant compte de la croissance future de leurs charges de travail. L’alimentation de chaque bâti nécessite des mises à niveau du réseau au bâti. Dans l’espace blanc, cela signifie probablement des bus de grande intensité et des PDU à bâti haute densité. Pour rejeter la quantité massive de chaleur générée par le matériel exécutant des charges de travail d’IA, deux technologies de refroidissement liquide émergent comme options principales :
- Refroidissement liquide direct sur la puce : Les plaques froides reposent sur les composants générateurs de chaleur (généralement des puces comme les processeurs centraux et les processeurs graphiques) pour évacuer la chaleur. Le liquide pompé monophasé ou biphasé extrait la chaleur de la plaque froide pour l’envoyer hors du centre de données, échangeant de la chaleur, mais pas des fluides avec la puce. Cela peut éliminer environ 70 à 75 % de la chaleur générée par l’équipement dans le bâti, laissant 25 à 30 % que les systèmes de refroidissement d’air doivent éliminer.
- Échangeurs de chaleur de porte arrière : Les échangeurs de chaleur passifs ou actifs remplacent la porte arrière du bâti IT par des serpentins d’échange de chaleur par lesquels le fluide absorbe la chaleur produite dans le bâti. Ces systèmes sont souvent combinés à d’autres systèmes de refroidissement comme stratégie pour maintenir la neutralité de la pièce ou comme conception transitionnelle pour commencer le processus de refroidissement liquide.
Bien que le refroidissement liquide direct sur puce offre une capacité de refroidissement de densité significativement plus élevée que l’air, il est important de noter qu’il y a encore un excès de chaleur que les plaques froides ne peuvent pas capturer. Cette chaleur sera rejetée dans la salle de données à moins qu’elle ne soit contenue et retirée par d’autres moyens tels que les échangeurs de chaleur de la porte arrière ou le refroidissement de l’air ambiant. Pour plus de détails sur les solutions de refroidissement liquide pour les centres de données, consultez notre livre blanc.
Conceptions à haute densité pour les rénovations et les nouvelles constructions
Pour simplifier la conception et le déploiement de l’infrastructure à haute densité, Vertiv s’est lancé Vertiv 360AI, qui comprend un portefeuille complet de solutions d’alimentation, de refroidissement et de service qui résolvent les défis complexes découlant de la révolution de l’IA. La plateforme comprend une large gamme de conceptions complètes prenant en charge jusqu’à 132 kW par bâti pour un ensemble diversifié de cas d’utilisation, des essais pilotes et de l’inférence Edge à une usine d’IA.
Conception pour les nouvelles constructions
| Densité du bâti | Nombre de supports | Nombre de processeurs graphiques | ID de conception | Technologie de refroidissement | ||
|---|---|---|---|---|---|---|
| NA | EMEA | ASIE | ||||
| 20kW | 18 | 248 | RD002 |
RD002E |
RD002A |
Air |
| 40kW | 10 | 248 | RD003 |
RD003E |
RD003A |
Air |
| 40kW | 10 | 248 | RD004 |
RD004E |
RD004A |
Air |
| 73kW | 88 | 2304 | RD006 |
RD006E | RD006A |
Liquide + Air |
| 73kW | 110 | 2880 | RD007 |
RD007E | RD007A |
Liquide + Air |
| 132kW | 36 | 1152 | RD014 |
RD014E | RD014A |
Liquide + Air |
| 132kW | 54 | 1728 | RD015 |
RD015E | RD015A |
Liquide + Air |
| 132kW | 72 | 2304 | RD016 |
RD016E | RD016A |
Liquide + Air |
| 300kW | - | - | RD300 | RD300E | RD300A | Liquide |
| 500kW | - | - | RD500 | RD500E | RD500A | Liquide |
Conception optimisée pour les rénovations
| Densité du bâti | Nombre de supports | Nombre de processeurs graphiques | ID de conception | Technologie de refroidissement | ||
|---|---|---|---|---|---|---|
| NA | EMEA | ASIE | ||||
| 40kW | 4 | 128 | 4X160R |
4X160RE | 4X160RA | Air |
| 70kW | 1 | 64 | 1L70R |
1L70RE |
1L70RA |
Liquide + Air |
| 100kW | 1 | 88 | 1L100R |
1L100R |
1L100RA |
Liquide + Air |
| 100kW | 4 | 368 | 4L400R |
4L400RE | 4L400RA | Liquide + Air |
| 100kW | 4 | 368 | 4XL400 |
4XL400 |
4XL400A |
Liquide + Air |
| 100kW | 5 | 460 | 5L500 |
5L500 |
5L500A |
Liquide + Air |
| 100kW | 12 | 1104 | 12XL1200 |
12XL1200 |
12XL1200A |
Liquide + Air |
| 100kW | 14 | 1288 | 14L1400 |
14L1400 |
14L1400A |
Liquide + Air |
Ces conceptions offrent plusieurs chemins aux intégrateurs de systèmes, aux fournisseurs de colocation, aux fournisseurs de services infonuagiques ou aux utilisateurs d’entreprise pour atteindre le centre de données de l’avenir, maintenant. Chaque installation spécifique peut avoir des nuances avec le nombre de bâtis et la densité des bâtis dictées par la sélection de l’équipement informatique. À ce titre, cette collection de conceptions offre un moyen intuitif de réduire définitivement la conception d’une base et de l’adapter exactement aux besoins de déploiement.
Lors de la modernisation ou de la réutilisation des environnements existants pour l’IA, nos conceptions optimisées aident à minimiser les perturbations des charges de travail existantes en tirant parti de l’infrastructure de refroidissement disponible et du rejet de chaleur dans la mesure du possible. Par exemple, nous pouvons intégrer le refroidissement liquide direct à la puce avec un échangeur de chaleur de porte arrière pour maintenir une solution de refroidissement neutre de la pièce. Dans ce cas, l’échangeur de chaleur de la porte arrière empêche l’excès de chaleur de s’échapper dans la pièce. Pour une installation refroidie par air qui cherche à ajouter de l’équipement de refroidissement liquide sans aucune modification au site lui-même, nous avons des options de conception liquide-air disponibles. Cette même stratégie peut être déployée dans un seul bâti, de suite ou à grande échelle dans un déploiement HPC important. Pour les conceptions à bâtis multiples, nous avons également inclus des bus à haute intensité et des PDU à bâti haute densité pour distribuer l’alimentation à chaque bâti.
Ces options sont compatibles avec une gamme d’options de rejet de chaleur qui peuvent être associées au refroidissement liquide. Cela établit une transition propre et rentable vers le refroidissement liquide à haute densité sans perturber les autres charges de travail dans la salle de données. Consultez nos solutions de salle de données d’IA pour en savoir plus.
Bien que de nombreuses installations ne soient pas conçues pour les systèmes à haute densité, Vertiv possède une vaste expérience pour aider les clients à développer des plans de déploiement afin de passer en douceur à une haute densité pour l’IA et HPC.
1 Estimations de la direction : Comparaison de la consommation d’énergie et de la production de chaleur au niveau du bâti pour 5 serveurs Nvidia DGX H100 et 21 serveurs Dell PowerStore 500T et 9200T dans un bâti standard de 42U basé sur les fiches techniques du fabricant