A LiquidAI anunciou o lançamento do LFM2.5-2.6B, um modelo de linguagem com 2,6 mil milhões de parâmetros, desenhado para potenciar agentes autónomos em dispositivos locais. Com o objetivo de facilitar a execução de agentes, este modelo permite que programadores integrem capacidades de raciocínio e utilização de ferramentas diretamente em computadores portáteis ou dispositivos móveis, eliminando a dependência de infraestruturas na nuvem e garantindo a privacidade dos dados do utilizador.
O desenvolvimento do LFM2.5-2.6B baseou-se num processo de treino que incluiu uma fase de pré-treino com cerca de 34 biliões de tokens e uma extensão da janela de contexto para 128 mil tokens. A fase de pós-treino foi dividida em quatro etapas: ajuste fino supervisionado, especialização por domínios, destilação multi-domínio e aprendizagem por reforço focada em agentes. Esta última etapa permitiu que o modelo aprendesse a interagir com diferentes ferramentas e ambientes de execução, simulando fluxos de trabalho complexos.
Em termos de desempenho, os resultados apresentados pela LiquidAI indicam que o LFM2.5-2.6B consegue competir com modelos até quatro vezes maiores em tarefas de seguimento de instruções e utilização de ferramentas. Embora os modelos de maior dimensão mantenham uma vantagem em tarefas de programação, o LFM2.5-2.6B destaca-se pela sua eficiência, superando frequentemente alternativas de maior porte em benchmarks de referência como o IFBench e o ToolSandbox, consolidando-se como uma solução para aplicações que exigem agilidade.
A eficiência computacional é um dos pilares deste lançamento. O modelo apresenta velocidades de inferência notáveis, atingindo 220 tokens por segundo num processador Apple M5 Max e 113 tokens por segundo num processador AMD Ryzen. Com um consumo de memória inferior a 2,5 GB, o LFM2.5-2.6B é suficientemente leve para ser executado em hardware de consumo corrente, mantendo uma latência reduzida que é essencial para a experiência de utilização em tempo real e para a execução em dispositivos móveis.
A integração do modelo no ecossistema de desenvolvimento é facilitada pelo suporte a ferramentas como llama.cpp, MLX, vLLM e ONNX. A LiquidAI disponibilizou o modelo através da biblioteca transformers, permitindo que a comunidade de programadores implemente agentes locais com facilidade. Esta abordagem visa acelerar a adoção de agentes autónomos que operam de forma privada e eficiente, sem os custos associados à inferência em larga escala em servidores remotos, posicionando-se como uma ferramenta estratégica para ambientes de produção.
Porque importa
O LFM2.5-2.6B é relevante por demonstrar que modelos de pequena escala, quando treinados com foco em agentes e aprendizagem por reforço, podem competir com modelos muito maiores em tarefas específicas. Isto abre caminho para uma nova geração de aplicações de IA locais, privadas e de baixo custo, reduzindo a dependência de grandes centros de dados e permitindo a execução em hardware de consumo.