A equipa de alinhamento da OpenAI apresentou o LASER, um processo para selecionar conversas úteis na avaliação da segurança dos seus modelos. O método procura casos raros e ambíguos, próximos dos limites entre o que uma política de segurança permite e proíbe. Num artigo publicado a 6 de outubro de 2026, a empresa afirma que, para encontrar números comparáveis de exemplos não permitidos, o método pode exigir cerca de 10 mil vezes menos computação de avaliação do que a amostragem aleatória.

LASER é a sigla de “Logistic Augmented Sampling over Embeddings, Recursively”. O processo combina classificadores logísticos, usados para selecionar conversas, e modelos de raciocínio, que atribuem rótulos aos exemplos segundo uma política de segurança. A OpenAI descreve um ciclo repetido: os exemplos rotulados ajudam a ajustar um novo classificador, que orienta a seleção seguinte.

A seleção concentra-se na chamada fronteira de decisão: conversas para as quais o classificador estima uma probabilidade próxima de 50% de serem consideradas não permitidas. Segundo a empresa, estes casos fornecem sinais relevantes para avaliar situações em que a aplicação das regras exige julgamentos subtis. O processo inclui ainda seleção por diversidade, concebida para alargar a cobertura e evitar amostras demasiado semelhantes.

De acordo com a OpenAI, o LASER começa por gerar conversas sintéticas representativas da política em causa. Depois, seleciona conversas desidentificadas semelhantes e acrescenta uma amostra de conversas aleatórias. Um modelo de raciocínio classifica os exemplos; com esses rótulos e as respetivas representações numéricas, o classificador logístico é ajustado. O ciclo repete-se até existir um conjunto de avaliação suficientemente grande e diverso. A empresa afirma que o processo pode preparar esses conjuntos em algumas horas.

A OpenAI apresenta o método como alternativa a processos de trabalho manual que, segundo o artigo, podiam exigir várias iterações entre investigadores, engenheiros e especialistas em políticas. A comparação de computação é feita com uma abordagem de amostragem aleatória usada anteriormente pela empresa; não constitui, por si só, uma medição independente do desempenho do método.

A empresa diz que o sistema funciona apenas com conversas sintéticas e desidentificadas, sem acesso a dados brutos de utilizadores. O objetivo declarado é captar casos específicos e realistas em que é difícil decidir se uma resposta deve ser permitida. A OpenAI afirma que avaliações com exemplos deste tipo podem ajudar a identificar falhas subtis e a reduzir recusas excessivas em situações ambíguas. A informação disponibilizada descreve o LASER como uma ferramenta para construir avaliações, não como um novo modelo de IA, e não apresenta validação externa dos resultados.

Porque importa

As avaliações de segurança dependem de exemplos capazes de revelar erros em casos-limite, não apenas em situações óbvias. O LASER procura tornar mais eficiente a criação dessas amostras, embora as alegações sobre a sua eficiência e utilidade sejam da OpenAI e não estejam acompanhadas, nas informações fornecidas, de validação independente.

Fontes

Meet LASER: Recursive sampling for safer conversations — OpenAI AlignmentOpenAI ↗