CoreWeave und seine Partner haben die weltweit erste Cloud-Bereitstellung des NVIDIA GB300 NVL72-Systems bereitgestellt, die schnelleres Training, geringere Latenz und eine effizientere Infrastruktur für Echtzeit-KI ermöglicht.
Ein gefeiertes Orchester ist nicht nur eine Sammlung von Weltklassemusikern, sondern eine einzigartige Einheit, bei der jeder Abschnitt (Messing, Streich, Schlagspuren) präzise zeitlich abgestimmt und abgestimmt ist, um eine makellose Performance zu liefern.
Wenn es um KI-Infrastruktur geht, gelten dieselben Prinzipien. Bei der unternehmenskritischen KI-Leistung geht es nicht nur darum, mehr Grafikprozessoren hinzuzufügen. Es geht darum, Rechenleistung, Stromversorgung, Kühlung und Netzwerk zu koordinieren, damit sie als ein System, eine Einheit, funktionieren.
Genau das planen Vertiv, CoreWeave und seine Partner mit dem NVIDIA GB300 NVL72-System. Dies ist kein Konzept oder ein individuelles Einzelstück. Es handelt sich um eine einheitliche Infrastruktur, die für KI in großem Maßstab entwickelt wurde.
Ein neuer Standard für KI-Infrastruktur
CoreWeave, der KI-Hyperscaler für GPU- und Cloud-Computing, führt die erste Bereitstellung des NVIDIA GB300 NVL72 durch, der im integrierten Racksystem von Dell untergebracht ist. (Entdecken Sie die Architektur)
CoreWeave war mit früheren Bereitstellungen von NVIDIA HGX H100- und H200-Plattformen führend in der KI-Cloud-Infrastruktur. Die NVIDIA GB300 NVL72-Bereitstellung setzt diesen Trend fort.
Die Leistungssteigerungen sprechen für sich:
- Bis zu 50-fache Steigerung der Inferenzleistung für die Berechnung von Arbeitslasten im Vergleich zu Hopper
- 10-fache Verbesserung der Benutzerreaktion
- 5× mehr Durchsatz pro Watt
- 1,5-mal mehr FP4-Leistung (4-Bit-Gleitkomma) im Vergleich zu Blackwell
- 1,5-mal mehr Speicher für bis zu 21TB GPU-Speicher pro Rack im Vergleich zu Blackwell
- 2-fache NVIDIA Quantum InfiniBand-Bandbreite pro GPU im Vergleich zu Systemen der Vorgängergeneration
Infrastruktur, die mit Silizium skaliert
Um Systeme in dieser Größenordnung laufen zu lassen, müssen Kühlung und Leistung genauso bewusst gestaltet werden wie die Rechenleistung. Bei Volllast zieht jedes NVIDIA GB300 NVL72-Rack ~140 kW und ist flüssigkeitsgekühlt. Hier ist der Beitrag von Vertiv entscheidend.
Vertiv™ CoolChip Kühlverteilereinheiten (CDUs) sind speziell für diese Bedingungen konzipiert. Das System liefert:
- 121kW Flüssigkeits-Flüssigkeit-Wärmeabgabe, ideal dimensioniert und optimiert für den NVIDIA GB300 NVL72-Schrank
- Kompatibilität mit ASHRAE W5 Wassereintrittstemperaturen
- Redundante Pumpen und duale Wärmetauscher für Fehlertoleranz
- Automatisierte Regelkreissteuerung für stationären Betrieb
Zu den Fähigkeiten von Vertiv gehören auch Services, die die Bereitstellung rationalisieren und die Effizienz optimieren, darunter:
- CFD-Modellierung (Computational Fluid Dynamics) und thermische Simulation zur Optimierung des Luftstroms und Vermeidung von späten Neugestaltungen
- White Space und Integrationsplanung zur Ausrichtung von Kühlung, Leistung und Regelkreissteuerung auf das Rack-Layout
- Echtzeitüberwachung und Schleifensteuerung zur Stabilisierung der Leistung unter dynamischen GPU-Lasten
- Referenzdesigns und SimReady-Assets für NVIDIA GB200- und GB300-Systeme ermöglichen eine digitale Validierung vor dem Build
Vorderansicht eines NVIDIA GB300 NVL72-Racks, das von CoreWeave bereitgestellt wird und eine leistungsstarke GPU-Infrastruktur bietet, die von dem Flüssigkeitskühlsystem Vertiv™ CoolChip CDU (Coolant Distribution Unit) unterstützt wird, das für extreme thermische Belastungen entwickelt wurde. (Foto mit freundlicher Genehmigung von Switch)
Schnelle Durchführung von KI – gemeinsam
Bei der Bereitstellung der KI-Infrastruktur der nächsten Generation geht es nicht nur um das, was sich im Rack befindet. Es geht darum, schnell vom Design zur Bereitstellung überzugehen und wie eng Ihre Partner während dieses Prozesses aufeinander abgestimmt sind.
Die Einführung des NVIDIA GB300 NVL72 durch CoreWeave zeigt diesen Prozess in der Praxis: eine gemeinsame Anstrengung, eine KI-Plattform im Rack-Bereich online zu bringen, die für ~140 kW Lasten, flüssigkeitsgekühlte und dichte Inferenz-Workloads im Dauerbetrieb entwickelt wurde.
Wie CoreWeave es ausdrückt, eine sportliche statt musikalische Analogie zu verwenden:
„Die Zukunft der KI-Infrastruktur zu lenken, ist ein Teamsport. Unsere gemeinsame Zusammenarbeit mit Dell, Switch und Vertiv bei dieser Bereitstellung des NVIDIA GB300 NVL72 ist grundlegend für unsere Geschwindigkeit und Agilität und bietet den entscheidenden Support, den wir benötigen, um bahnbrechende Technologie in beispiellosem Tempo für unsere Kunden in die Realität umzusetzen.“
Vertiv unterstützte die Bereitstellung mit vorab validierten Flüssigkeitskühlsystemen und technischer Expertise, sodass CoreWeave und Dell die Infrastrukturausrichtung erhalten, die erforderlich ist, um sich mit Lichtgeschwindigkeit zu bewegen.
Wohin die Infrastruktur geht
Die Bereitstellung des NVIDIA GB300 NVL72 durch CoreWeave und Dell mit Unterstützung von Vertiv markiert eine Verschiebung der Art und Weise, wie KI-Infrastruktur entwickelt und bereitgestellt wird. Angesichts der Veränderungsrate bei KI könnte ein angemessenerer Vergleich eher elektronische Musik als klassische sein. Aber in welcher Form auch immer, die Analogie eines vereinten Orchesters oder einer Gruppe – und nicht einer Gruppe von Einzelspielern – steht immer noch. Echte Integration, Zusammenarbeit und gemeinsame Entwicklung sind entscheidend für eine symphonische KI-Leistung.
Erfahren Sie, wie Sie Energie, Kühlung und Rechenleistung für eine optimale KI-Leistung im Vertiv AI Hub integrieren können.
