A NVIDIA e a CoreWeave anunciaram a entrada em produção de uma nova geração de infraestrutura para inteligência artificial, com sistemas Vera Rubin NVL72 disponíveis em acesso antecipado na CoreWeave Cloud. O anúncio foi feito na conferência CoreWeave Fully Connected, em São Francisco. A oferta inclui redes Ethernet Spectrum-X de 102,4T. A CoreWeave também prevê disponibilizar o processador NVIDIA Vera, concebido para cargas de trabalho de agentes de IA.

A Cognition, empresa responsável pelo agente de programação Devin, é o primeiro cliente a executar cargas de produção em sistemas Vera Rubin. Segundo a NVIDIA, a empresa comparou o desempenho de inferência da nova plataforma com o de sistemas GB200 NVL72, recorrendo a tarefas de engenharia de software baseadas numa amostra do conjunto FrontierCode. Nos primeiros testes, a Cognition registou até 4,8 vezes mais débito total de tokens em cargas SWE-2. Trata-se de uma medição inicial divulgada pelas empresas, não de uma avaliação independente.

A CoreWeave afirma ter instalado um cluster Vera Rubin para a Cognition em poucos dias. A infraestrutura pode ser operada através de vários serviços da empresa, incluindo o CoreWeave Kubernetes Service, o Mission Control e o CoreWeave Inference. A Cognition utiliza a plataforma para treino, aprendizagem por reforço e inferência do Devin. A empresa diz ter escalado para milhares de GPUs na CoreWeave em nove meses, sem divulgar mais pormenores sobre a dimensão ou a metodologia dessa expansão.

A oferta prevista de processadores Vera destina-se também a executar ambientes isolados para agentes. De acordo com a CoreWeave, uma rack com Vera reúne 128 processadores e 11.264 núcleos, capacidade suficiente para mais de 11 mil ambientes simultâneos, considerando um núcleo por ambiente. Em testes, a empresa mediu arranques de sandbox mais de três vezes mais rápidos em processadores Vera. No Terminal-Bench, indicou um ganho de desempenho de 1,7 vezes nas tarefas aprovadas. A publicação não identifica a configuração de referência usada nas comparações.

A CoreWeave apresentou ainda o Forge, um ambiente que combina ferramentas de treino, avaliação e melhoria de modelos e agentes. A empresa diz integrar no produto o Weights & Biases, a experiência de pós-treino da OpenPipe e o projeto de código aberto marimo. Entre as capacidades destacadas está o CoreWeave ARIA, agora disponível de forma geral, que pode analisar execuções, propor experiências e recomendar alterações de código, guardando-as no GitHub. A CoreWeave descreve o Forge como aberto a diferentes modelos, estruturas de software e serviços de cloud.

As empresas apresentam estes anúncios como parte de uma colaboração de quase uma década, que abrange computação, redes e software. A NVIDIA afirma que GPUs V100 da CoreWeave continuam a executar cargas de clientes, apesar de a arquitetura Volta ter sido lançada há quase uma década. A mensagem comercial é a de que a infraestrutura pode manter utilidade ao longo de várias gerações; os dados divulgados, porém, são fornecidos pelas próprias empresas e não incluem uma análise independente de custos ou retorno do investimento.

Porque importa

O anúncio mostra como fornecedores de cloud procuram ligar a infraestrutura de produção ao ciclo de treino e melhoria de agentes de IA. Os ganhos de desempenho divulgados podem ser relevantes para cargas de programação, mas são resultados iniciais apresentados pelas empresas e carecem de validação independente.

Fontes

From Training to Production, NVIDIA and CoreWeave Close the Loop on Agentic AINVIDIA ↗