A LiquidAI anunciou a disponibilização dos modelos LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, concebidos para otimizar tarefas de processamento de linguagem natural que exigem elevada eficiência. Estes codificadores, baseados na arquitetura LFM2, foram desenvolvidos para oferecer desempenho em cenários de produção, como a classificação de texto, deteção de informação pessoal identificável e encaminhamento de intenções, mantendo custos operacionais reduzidos mesmo quando processam sequências de dados extensas.
A arquitetura destes modelos resulta de uma adaptação dos backbones de descodificadores LFM2, transformando-os em codificadores bidirecionais através da implementação de máscaras de atenção bidirecionais e convoluções não causais. O processo de treino envolveu duas fases distintas: uma etapa inicial de competência linguística geral com contexto curto e uma fase subsequente de adaptação a contextos longos, atingindo uma capacidade de processamento de até 8.192 tokens. Esta abordagem permite que a latência cresça de forma controlada à medida que o comprimento da entrada aumenta.
Nos testes de desempenho realizados pela equipa, os modelos demonstraram eficácia em tarefas de referência como GLUE e SuperGLUE. O LFM2.5-Encoder-350M posicionou-se entre os modelos avaliados, superando alternativas significativamente maiores. Por sua vez, o modelo de 230M superou o ModernBERT-base e outros modelos da série EuroBERT, demonstrando que a eficiência não compromete a precisão em tarefas de classificação multilingue e de compreensão factual.
A vantagem competitiva destes codificadores reside na sua velocidade de inferência em processadores centrais (CPU). Segundo os dados divulgados, o LFM2.5-Encoder-230M é aproximadamente 3,7 vezes mais rápido que o ModernBERT-base ao processar contextos de 8.192 tokens. Enquanto o modelo de referência pode demorar mais de um minuto e meio por passagem, a solução da LiquidAI completa a mesma tarefa em cerca de 28 segundos, permitindo a execução de análises complexas em hardware convencional de portáteis.
Estes modelos estão disponíveis na plataforma Hugging Face, acompanhados por demonstrações práticas que ilustram a sua versatilidade em aplicações como a verificação ortográfica, deteção de PII e linting de políticas corporativas. A LiquidAI sublinha que, ao contrário de modelos de maior escala, estes codificadores são adequados para empresas que necessitam de integrar inteligência artificial em fluxos de trabalho contínuos, onde a rapidez de resposta e a economia de recursos computacionais são fatores críticos para a viabilidade do projeto.
Porque importa
A introdução destes modelos é relevante por permitir que empresas executem tarefas complexas de processamento de linguagem natural em hardware de consumo, reduzindo a dependência de GPUs para aplicações de inferência contínua.