O AI Infra Summit, realizado em Santa Clara, consolidou-se como um ponto de encontro para o setor das infraestruturas tecnológicas. Com uma afluência que ultrapassou os oito mil participantes, o evento serviu de palco para a NVIDIA apresentar inovações focadas na eficiência das fábricas de inteligência artificial. Ian Buck, vice-presidente de computação de alto desempenho da empresa, destacou que o desafio atual do setor não reside apenas no desempenho bruto, mas na capacidade de maximizar a produção de tokens por megawatt consumido, uma métrica que se tornou o novo padrão de referência para a infraestrutura de IA.

A NVIDIA introduziu a plataforma DSX MaxLPS, uma solução desenhada para gerir dinamicamente o consumo de energia em ambientes de computação intensiva. Segundo dados partilhados pela empresa, esta tecnologia permite monitorizar o consumo em tempo real através de GPUs e racks, redistribuindo a energia de forma inteligente. A Lambda, fornecedora de serviços de nuvem, validou esta tecnologia em servidores Blackwell, reportando um aumento de 23% no desempenho por watt. Ao otimizar a alocação de energia, a empresa conseguiu operar 19 nós dentro do orçamento energético anteriormente destinado a 16, elevando o débito de tokens por segundo.

Outro pilar central da apresentação foi a arquitetura Vera Rubin, que integra sistemas de computação, software de inferência Dynamo e redes de alta velocidade. A NVIDIA sublinha que a combinação destas tecnologias permite que as fábricas de IA operem com maior densidade de processamento sem a necessidade de expandir a infraestrutura elétrica existente. Em cenários específicos, a utilização da plataforma DSX MaxLPS com sistemas Vera Rubin NVL72 pode permitir a instalação de até 40% mais capacidade de GPU dentro do mesmo envelope de potência, otimizando significativamente o retorno económico por megawatt.

A sustentabilidade operacional também foi abordada através de uma colaboração com a Emerald AI e a Silicon Valley Power. Através do programa DSX Flex, as fábricas de IA podem agora atuar como recursos flexíveis para a rede elétrica. O sistema permite ajustar autonomamente o consumo de energia em resposta a sinais da rede, priorizando tarefas críticas e pausando temporariamente cargas de trabalho menos urgentes. Esta capacidade de resposta à procura demonstra como a infraestrutura de IA pode integrar-se na gestão energética urbana, protegendo a estabilidade da rede enquanto mantém a produtividade dos modelos.

A estratégia da NVIDIA reflete uma mudança de paradigma onde a eficiência energética é co-projetada desde o silício até à rede elétrica. Com a crescente procura por IA agentiva, que exige níveis de escala e desempenho sem precedentes, a empresa aposta numa abordagem de pilha completa. Ao integrar hardware, software de gestão de energia e redes de interconexão, a NVIDIA procura responder às limitações de energia que atualmente restringem a expansão de grandes centros de dados, garantindo que cada watt investido se traduza em valor computacional tangível para os seus clientes.

Porque importa

A escassez de energia é um dos maiores entraves à expansão da inteligência artificial à escala global. Ao otimizar a eficiência energética das infraestruturas, a NVIDIA não só reduz custos operacionais para as empresas, como também permite que centros de dados operem de forma mais sustentável e integrada nas redes elétricas locais, mitigando o impacto ambiental do crescimento da IA.

Fontes

AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI FactoriesNVIDIA ↗