A CoreWeave e os seus parceiros forneceram a primeira implementação na cloud do sistema NVL72 GB300 da NVIDIA a nível mundial, proporcionando uma formação mais rápida, uma latência mais baixa e uma infraestrutura mais eficiente para IA em tempo real.
Uma orquestra aclamada não é meramente uma coleção de músicos de classe mundial; é uma entidade singular onde cada secção (bruços, cadeias, percussão) é precisamente cronometrada e afinada para proporcionar um desempenho perfeito.
Quando se trata de infraestruturas de IA, aplicam-se os mesmos princípios. O desempenho de IA crítico para a missão não se trata apenas de adicionar mais GPU. Trata-se de coordenar computação, energia, arrefecimento e rede para que funcionem como um sistema, uma unidade.
É exatamente isso que a Vertiv, a CoreWeave e os seus parceiros estão a planear com o sistema NVIDIA GB300 NVL72. Este não é um conceito ou uma utilização única personalizada. É uma infraestrutura unificada construída para IA à escala.
Um novo padrão para infraestruturas de IA
A CoreWeave, o hiperescalador de IA para GPU e computação em nuvem, está a realizar a primeira implementação do NVIDIA GB300 NVL72 alojado no sistema de bastidor integrado da Dell. (Explore a arquitetura)
A CoreWeave tem estado na vanguarda da infraestrutura de cloud de IA, com implementações anteriores das plataformas NVIDIA HGX H100 e H200. A sua implementação NVIDIA GB300 NVL72 continua essa tendência.
Os ganhos de desempenho falam por si:
- Aumento de até 50× na saída de inferência para raciocínio de cargas de trabalho vs. Contentor
- Melhoria de 10× na capacidade de resposta do utilizador
- 5× mais rendimento por watt
- Desempenho de 1,5× mais FP4 (ponto flutuante de 4 bits) vs. Blackwell
- 1,5× mais memória para até 21TB de memória GPU por bastidor vs. Blackwell
- 2× largura de banda NVIDIA Quantum InfiniBand por GPU em comparação com sistemas da geração anterior
Infraestrutura que se adapta ao silício
Para executar sistemas nesta escala, o arrefecimento e a energia têm de ser concebidos tão deliberadamente como o computador. À carga máxima, cada bastidor NVIDIA GB300 NVL72 irá consumir ~140 kW e é arrefecido a líquido. É aqui que a contribuição da Vertiv é fundamental.
As unidades de distribuição de arrefecimento (CDUs) Vertiv™ CoolChip foram concebidas especificamente para estas condições. O sistema fornece:
- 121kW de rejeição de calor líquido a líquido, dimensionada e otimizada de forma ideal para o armário NVIDIA GB300 NVL72
- Compatibilidade com as temperaturas da água de entrada ASHRAE W5
- Bombas redundantes e permutadores de calor duplos para tolerância a falhas
- Controlo de loop automatizado para funcionamento em regime estacionário
As capacidades da Vertiv também incluem serviços que simplificam a implementação e otimizam a eficiência, incluindo:
- Modelação CFD (Dinâmica Computacional de Fluidos) e simulação térmica para otimizar o fluxo de ar e evitar reformulações de fase avançada
- Planeamento de espaço em branco e integração para alinhar o arrefecimento, a alimentação e o controlo de loop com a disposição do bastidor
- Monitorização em tempo real e controlo de loop para estabilizar o desempenho sob cargas de GPU dinâmicas
- Projetos de referência e ativos SimReady para sistemas NVIDIA GB200 e GB300, permitindo a validação digital antes da construção
Vista frontal de um bastidor NVIDIA GB300 NVL72 implementado pela CoreWeave, mostrando uma infraestrutura GPU de alto desempenho suportada pelo sistema de arrefecimento líquido Vertiv™ CoolChip CDU (unidade de distribuição de líquido de arrefecimento) concebido para lidar com cargas térmicas extremas. (Foto cortesia do Comutador)
Executar IA a velocidade – em conjunto
Fornecer infraestruturas de IA de próxima geração não se trata apenas do que está dentro do bastidor. Trata-se de passar rapidamente do design para a implementação e de quão perto os seus parceiros estão alinhados ao longo desse processo.
A implementação da NVIDIA GB300 NVL72 pela CoreWeave mostra esse processo na prática: um esforço colaborativo para colocar online uma plataforma de IA à escala de bastidor, construída para cargas de ~140 kW, arrefecidas a líquido e cargas de trabalho de inferência densas e sempre ligadas.
Como o CoreWeave, usando uma analogia desportiva em vez de musical, diz:
“Pioneirar o futuro da infraestrutura de IA é um desporto de equipa. A nossa colaboração conjunta com a Dell, a Switch e a Vertiv nesta implementação da NVIDIA GB300 NVL72 é fundamental para a nossa velocidade e agilidade, fornecendo o apoio crítico de que precisamos para transformar a tecnologia inovadora numa realidade para os nossos clientes a um ritmo sem precedentes.”
A Vertiv apoiou a implementação com sistemas de arrefecimento líquido pré-validados e experiência em engenharia, dando à CoreWeave e à Dell o alinhamento da infraestrutura necessário para se mover à velocidade da luz.
Para onde se dirige a infraestrutura
A implementação do NVIDIA GB300 NVL72 pela CoreWeave e Dell com o apoio da Vertiv, marca uma mudança na forma como a infraestrutura de IA é concebida e entregue. Dada a taxa de alteração na IA, uma comparação mais adequada pode ser música eletrónica em vez de clássica. Mas, independentemente da forma que assumir, a analogia de uma orquestra ou grupo unido – em vez de um conjunto de intervenientes individuais – ainda permanece. A verdadeira integração, cooperação e codesenvolvimento são fundamentais para um desempenho sinfónico de IA.
Descubra como integrar energia, arrefecimento e computação para um desempenho de IA ideal no hub de IA Vertiv.
