A NVIDIA revelou recentemente os resultados práticos da sua plataforma DSX, um conjunto de tecnologias concebido para maximizar a eficiência energética nas infraestruturas de inteligência artificial. Numa demonstração realizada em Silicon Valley, um centro de dados conseguiu reduzir o seu consumo de quatro para três megawatts de forma automática, em resposta a um sinal da rede elétrica local. Este processo, gerido pela plataforma Conductor da Emerald AI, permitiu ajustar as cargas de trabalho sem interromper os serviços de inferência de alta prioridade, demonstrando a viabilidade da flexibilidade da rede em ambientes de produção industrial.

O núcleo desta inovação reside no NVIDIA DSX MaxLPS, uma ferramenta de gestão dinâmica de energia que monitoriza o consumo ao nível dos servidores e dos bastidores em tempo real. Ao contrário do aprovisionamento estático tradicional, que frequentemente deixa capacidade inutilizada, o MaxLPS redistribui a energia disponível conforme as necessidades específicas de cada tarefa. Esta abordagem permite que os operadores recuperem capacidade que estaria, de outra forma, desperdiçada, otimizando o rendimento de tokens por cada watt consumido dentro de um orçamento energético fixo.

Dados divulgados pela Lambda, um fornecedor de serviços de computação em nuvem, validam a eficácia desta tecnologia. Testes realizados em servidores equipados com GPUs NVIDIA HGX B200 indicam que a gestão inteligente da energia permite um aumento de 24% no rendimento de tokens, mantendo o mesmo limite de potência. Segundo Dave Ward, presidente de serviços de nuvem da Lambda, esta solução abre caminho para a recuperação de capacidade ociosa, convertendo-a em computação real e aumentando a densidade de processamento no mesmo espaço físico.

A plataforma DSX, apresentada originalmente na GTC Taipei em maio, integra um ecossistema abrangente que inclui ferramentas de simulação, designs de referência e software de gestão de ciclo de vida. O objetivo da NVIDIA é transitar de uma otimização isolada de componentes para uma conceção holística da fábrica de IA. Ao integrar a computação, a rede, o arrefecimento e a gestão de operações, a empresa procura contornar as limitações físicas impostas pela infraestrutura elétrica, evitando a necessidade de expansões dispendiosas e morosas na rede de transmissão.

A escassez de energia é atualmente o principal constrangimento para a expansão da inteligência artificial à escala global. Com a premissa de que a capacidade de uma fábrica de um gigawatt não pode ser duplicada arbitrariamente, a NVIDIA foca-se em extrair mais trabalho da energia já disponível. A implementação bem-sucedida destas tecnologias em ambientes reais sugere que a eficiência operacional será o fator determinante para a viabilidade económica e técnica das futuras infraestruturas de computação de alto desempenho.

Porque importa

A gestão eficiente da energia é crítica para a sustentabilidade da indústria de IA, permitindo que centros de dados operem dentro de limites de rede restritos enquanto maximizam a capacidade de processamento necessária para modelos de grande escala.

Fontes

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory ProductionNVIDIA ↗