A Hugging Face publicou a 23 de outubro de 2026 uma ferramenta para consultar se modelos populares da plataforma conseguem correr em aceleradores AWS Trainium através do TorchNeuron, o backend nativo de PyTorch para estes chips. O Space «torch-neuronx model support» indica se um modelo Transformers foi executado sem modificações e disponibiliza um script para repetir a execução. Os resultados também podem ser consultados no conjunto de dados público aws-neuron/torch-neuronx-model-support.
A vista inicial reúne uma seleção de modelos baseada em transferências e tendências. É possível procurar modelos nas listas de tendências ou de transferências e escolher versões do compilador Neuron, neuronx-cc, e de Transformers. As classificações seguem as listas da plataforma, tarefa a tarefa, mesmo quando um modelo ainda não foi testado. Quando um modelo é omitido deliberadamente, a ferramenta indica o motivo. Segundo a publicação, muitas vezes não foi dada prioridade ao modelo; nalguns casos, este é incompatível.
Para cada teste, a página pode mostrar o resultado, o número de núcleos Trainium usados, o tempo total — incluindo a compilação — e o pico de memória do dispositivo. Também apresenta as versões da stack de software testada, os pacotes adicionais necessários e o ficheiro run.py. A receita usa from_pretrained, distribui o modelo por núcleos quando necessário e gera texto com uma cache estática e torch.compile(backend="neuron"). Num sistema compatível, como uma instância Trainium2 com a stack indicada, o utilizador instala os pacotes e executa o script com python3 run.py.
A primeira execução compila os grafos do modelo. Para evitar repetir essa etapa, a Hugging Face indica como copiar os grafos compilados durante o teste a partir de uma cache pública. O script lança os processos distribuídos necessários quando o modelo está repartido, pelo que não é preciso recorrer a torchrun. A publicação apresenta estas instruções e o script usado como forma de executar o modelo nas condições descritas, não como garantia de que qualquer configuração de hardware ou software produzirá o mesmo resultado.
A metodologia tem limites explícitos. Cada teste usa uma instância Trainium2 e distribui o modelo pelo menor número de núcleos que permita alojar os pesos; a maioria recorre a paralelismo tensorial. Os modelos de mistura de especialistas sem um plano de paralelismo tensorial usam apenas paralelismo por especialistas. O teste gera 32 tokens e verifica o resultado: num único núcleo, compara os tokens com os de uma execução em CPU do mesmo checkpoint; nos modelos distribuídos, um modelo avaliador verifica se o texto é inglês fluente. Só são testados modelos que caibam em quatro dispositivos Trainium2, até 16 núcleos.
Um resultado PASS não demonstra o débito de geração nem o comportamento em gerações mais longas. Por agora, a cobertura limita-se a modelos Transformers de geração de texto e de texto-imagem-para-texto. A Hugging Face diz que pretende alargá-la a Diffusers, Sentence Transformers e outras tarefas Transformers. O conjunto de dados guarda o resultado, eventuais erros, versões da stack e script executado, com ficheiros Parquet para cada combinação de versões do compilador e das bibliotecas.
Porque importa
A ferramenta dá aos utilizadores uma forma de verificar compatibilidade e executar modelos em Trainium segundo as condições descritas. Os limites metodológicos significam que PASS deve ser entendido como um resultado de execução num cenário específico, não como uma avaliação geral de desempenho.