O que é necessário para dar suporte à IA com escala de gigawatts? A Vertiv e a NVIDIA oferecem um modelo com a GB300 NVL72 em sua essência.
Cumprir a promessa da IA depende da inovação contínua em torno de modelos de linguagem grandes, incluindo IA agêntica (agentic AI), bem como avanços no design das GPU. Mas também requer um alinhamento mais estreito entre modelos de IA, hardware de TI e a infraestrutura das instalações que lhe dão suporte a partir de uma perspectiva de energia e resfriamento.
Martin Olsen, vice-presidente de estratégia de segmentação e implementação para data centers da Vertiv, concentra-se nos pontos de contato entre a TI e a TO relacionados à IA e trabalha em estreita colaboração com parceiros importantes como a NVIDIA. Martin discutiu recentemente a colaboração contínua da Vertiv com a NVIDIA, líder em IA, em várias frentes, incluindo o design de referência da GB300 NVL72 recém-lançada, voltado para implementações de IA em escala de gigawatts. Essa solução dá suporte a densidades de rack de até 142 kW e, ao mesmo tempo, alavanca o NVIDIA Omniverse para simulações baseadas em IA.
Como você descreveria a parceria da Vertiv com a NVIDIA, particularmente no contexto do desenvolvimento da infraestrutura de IA?
Martin Olsen (MO): Nossa parceria com a NVIDIA é fundamental, não apenas estratégica. Ele nos permite permanecer uma plataforma de GPU à frente, nos dando visibilidade das próximas duas ou três gerações de computação. Essa previsão prepara nossas soluções de infraestrutura para futuras implementações de computação. Somos um player chave no ecossistema da NVIDIA, cobrindo pilares críticos como alimentação de energia, resfriamento, controle de gerenciamento térmico e otimização de IA. Ao integrar nossa expertise, habilitamos a NVIDIA a entregar a sua plataforma DGX, incluindo a GB300 NVL72, mais rápida e em escala, atendendo às expectativas dos clientes enquanto planeja as necessidades futuras.
O que torna a Vertiv um parceiro valioso para a NVIDIA nessa colaboração?
MO: A NVIDIA valoriza nossa longa história de credibilidade e atendimento aos principais clientes globais, o que dá confiança à nossa parceria. Oferecemos o portfólio de energia e resfriamento mais completo da indústria, reduzindo a complexidade para a NVIDIA ao minimizar as interfaces de infraestrutura. Nosso grande investimento em engenharia, pesquisa e desenvolvimento impulsiona a inovação, lidando com os complexos desafios dos data centers. Essa competência end to end, combinada com nossa abordagem inovadora à alimentação de energia, ao gerenciamento térmico e aos controles, cria uma relação simbiótica que aprimora a capacidade da NVIDIA de implementar sistemas avançados de IA, como a GB300 NVL72.
Uma plataforma de GPU à frente: Como Martin Olsen observa, ficar à frente significa olhar além da geração atual de computação. Os líderes de data center que obtêm insights precoces sobre as próximas gerações de plataformas estão mais bem posicionados para projetar infraestrutura que esteja pronta para o que vem depois.
Por que os designs de referência são importantes em seu trabalho com a NVIDIA e como eles beneficiam os clientes?
MO: Os designs de referência são a base da nossa colaboração com a NVIDIA, atuando como um padrão de excelência para a implementação de computação acelerada, como a GB300 NVL72. Eles fornecem um esquema completo das especificações de infraestrutura, lista de materiais e requisitos de desempenho para dar suporte às plataformas DGX e aos clusters SuperPOD da NVIDIA. Esses designs permitem velocidade, escala, eficiência energética e facilidade de manutenção. Eles não são estáticos; nós os reafirmamos em um sistema de feedback de circuito fechado com clientes e parceiros, melhorando continuamente a performance, o custo e a flexibilidade de implementação. Este modelo em evolução simplifica a implementação da infraestrutura para os clientes, oferecendo agilidade e eficiência.
Você pode explicar o que é a NVIDIA GB300 NVL72 e sua importância sob a perspectiva da Vertiv?
MO: A NVIDIA GB300 NVL72 é uma plataforma abrangente que inclui computação, rede e armazenamento otimizados para a computação acelerada em empresas. É uma unidade de computação, como um notebook foi historicamente, mas projetada para IA em escala de rack e fila. A Vertiv fornece a estrutura de energia, resfriamento e controle em torno desta plataforma, permitindo que ela opere com eficiência. A GB300 NVL72 é um padrão ouro para clusters de IA, otimizada nos níveis do servidor, rack e sistema. Nosso papel é fundamental para habilitar essa plataforma a oferecer a máxima performance para cargas de trabalho de IA.
Além do resfriamento líquido, que outro valor a Vertiv agrega à infraestrutura de IA da NVIDIA, especialmente para a GB300 NVL72?
MO: Embora o resfriamento líquido seja fundamental - fazendo a transição para 80% de resfriamento líquido e 20% de resfriamento a ar para economia de energia - nosso valor se estende ainda mais. Lideramos todo a cadeia de energia, da rede elétrica ao chip, com soluções como sistemas de armazenamento de energia em baterias e microrredes para gerenciar interações com a rede elétrica. Também gerenciamos a cadeia térmica, do chip à reutilização de calor.
Nosso software de orquestração integra sistemas de gerenciamento térmico e de energia para uma performance ótima. Além disso, oferecemos modelos de implementação flexíveis, de data centers modulares totalmente pré-fabricados a skids pré-integrados, reduzindo riscos e acelerando a implementação para sistemas de IA de grande escala, como a GB300 NVL72.
Renderização em 3D de uma infraestrutura de IA de alta densidade projetada para a plataforma NVIDIA GB200 e escalável para a GB300. Ela dá suporte a uma carga de 1,4 MW em 20 racks otimizados para DGX, com espaço livre para cargas de trabalho da próxima geração e apresenta um design modular com o Vertiv™ SmartRun, um sistema suspenso pré-fabricado para resfriamento, energia end to end e gerenciamento de cabos integrados.
Como a Vertiv aproveita a plataforma Omniverse da NVIDIA nessa parceria?
MO: Usamos o Omniverse da NVIDIA para criar gêmeos digitais com base na física e fotorrealistas de nossas arquiteturas de referência, incluindo as da GB300 NVL72. Isso permite a colaboração em tempo real com arquitetos, engenheiros e clientes, permitindo rápida reafirmação e validação do projeto antes da implementação. O gêmeo digital simula a performance da infraestrutura, testando variáveis e cenários de falha virtualmente, o que economiza tempo e reduz os riscos dos projetos. Esse recurso se estende às operações, fornecendo otimização de circuito fechado e controles de feedforward para melhorar continuamente a performance do sistema, tornando-o uma ferramenta dinâmica para decisões de infraestrutura mais inteligentes ao longo de todo o ciclo de vida.
Quais futuras áreas de colaboração você antecipa com a NVIDIA, especialmente em relação à adoção por empresas e às tecnologias emergentes de IA?
MO: À medida que a IA evolui, estamos passando do treinamento para a inferência, onde a monetização acontece por meio de aplicações corporativas como a radiologia ou serviços bancários. Essa mudança criará um ecossistema de IA distribuída, com modelos menores implementados no local (on-premises), em colocation ou na borda, impulsionados por segurança, soberania, latência e necessidades de integração de dados. Nossa colaboração com a NVIDIA se concentrará no suporte a esse cenário distribuído, aproveitando o Omniverse para design e otimização. Também abordaremos áreas emergentes, como a IA agêntica e a IA física, permitindo que nossa infraestrutura dê suporte a adoção empresarial em diversos setores e regiões geográficas, escalando de fábricas de IA centralizadas a implementações na borda.
Modelo para a era da IA
O trabalho da Vertiv com a NVIDIA marca uma mudança de construções customizadas para infraestrutura escalável e replicável para a IA. Designs de referência como a GB300 NVL72 definem um novo padrão - integração de energia, resfriamento e orquestração em um sistema unificado. À medida que a IA passa do data center central para a borda, essa parceria está moldando como a próxima geração de computação será implementada.
Explore o que vem a seguir na infraestrutura de IA: Hub de IA da Vertiv: Transformando Data Centers Modernos para Dar Suporte às Demandas da AI e da HPC
