A Meta apresentou o Llama 3.1 405B como o maior modelo da família Llama disponibilizado até então. A atualização incluiu também versões de 8B e 70B parâmetros, todas com uma janela de contexto de 128 mil tokens e suporte melhorado para vários idiomas.
Ao disponibilizar os pesos, a Meta permite que organizações executem, adaptem e avaliem os modelos na sua própria infraestrutura ou através de fornecedores cloud. “Aberto” não significa ausência de condições: a utilização é regulada pela Llama 3.1 Community License e organizações de dimensão excecional estão sujeitas a requisitos adicionais.
O modelo de 405B exige recursos computacionais consideráveis, pelo que muitas equipas vão utilizá-lo através de serviços geridos ou para gerar dados destinados a modelos mais pequenos. As variantes de 8B e 70B são, em geral, opções mais realistas para execução local, investigação aplicada e sistemas com maior controlo sobre os dados.
A Meta destacou ainda a possibilidade de usar o modelo maior para criar dados sintéticos e apoiar a destilação de variantes especializadas. Essa abordagem pode reduzir custos de operação, mas não garante automaticamente qualidade: dados gerados por outro modelo podem transportar erros, enviesamentos e padrões artificiais. A origem e a avaliação dos conjuntos de treino continuam a ser essenciais.
A execução em infraestrutura própria é frequentemente associada a privacidade, mas a relação não é automática. É necessário configurar acessos, registos, cifragem, atualizações e isolamento da informação. Em muitos casos, um serviço cloud bem governado pode ser mais seguro do que uma instalação local sem manutenção. A escolha deve partir do risco, da capacidade técnica e das obrigações aplicáveis aos dados.
A disponibilidade de modelos com pesos acessíveis aumenta a possibilidade de investigação independente e adaptação ao português. Ao mesmo tempo, transfere para quem os opera responsabilidades importantes de segurança, proteção de dados, manutenção e avaliação contínua.
Porque importa
Modelos com pesos acessíveis dão a empresas e universidades maior controlo sobre infraestrutura, dados e personalização, embora tragam novas responsabilidades operacionais.