A OpenAI publicou um texto em que descreve a forma como gere os riscos associados à IA de fronteira, isto é, os modelos mais capazes, em todas as fases, desde o treino até à disponibilização a utilizadores. Segundo o resumo disponível na fonte oficial, a abordagem assenta em quatro elementos: alinhamento do modelo, sandboxing, salvaguardas de bloqueio e monitorização. Trata-se de uma descrição feita pela própria empresa, e não de um relatório independente sobre a eficácia dessas medidas.

O alinhamento refere-se ao processo de tornar o comportamento do modelo consistente com as instruções e os limites definidos pelos seus criadores. Segundo o resumo, esta preocupação começa durante o treino, antes de qualquer decisão sobre lançamento. A ideia é reduzir a probabilidade de respostas ou ações indesejadas, segundo a descrição apresentada. A fonte não apresenta métricas que permitam medir essa consistência.

O sandboxing corresponde a um ambiente isolado onde um sistema pode ser testado. O terceiro elemento são as salvaguardas de bloqueio, mecanismos que impedem o modelo ou o sistema que o integra de responder a certos pedidos ou executar determinadas ações consideradas de risco elevado. Não é claro, a partir do resumo, quais as categorias de pedidos bloqueados nem os critérios de decisão.

A monitorização é descrita como um acompanhamento contínuo do comportamento dos sistemas depois do lançamento. Em conjunto, os quatro elementos apontam para uma gestão de risco encadeada, que não se esgota num único momento. Trata-se de uma comunicação institucional, pelo que as afirmações sobre eficácia devem ser lidas como posição do fabricante até haver avaliações independentes que as confirmem. O resumo disponível também não inclui dados sobre o desempenho destas medidas.

Para leitores, utilizadores e empresas em Portugal, o texto mostra como um fornecedor afirma controlar riscos de IA de fronteira. A mesma fonte não trata de disponibilidade de produtos, preços ou regras específicas para Portugal ou para a UE. Quem dependa destas ferramentas deve consultar o documento completo e confirmar junto do fornecedor as salvaguardas e obrigações aplicáveis. Isto não substitui a leitura do documento original.

Porque importa

Para leitores, utilizadores e empresas em Portugal, a publicação ajuda a perceber como os fornecedores de IA de fronteira dizem controlar riscos antes e depois do lançamento. Ainda assim, não há nesta fonte informação sobre disponibilidade de produtos, preços ou regras específicas para Portugal ou para a UE. Quem depender destas ferramentas deve confirmar junto do fornecedor as salvaguardas aplicáveis, as condições de utilização e as obrigações de conformidade que se aplicam ao seu caso.

Fontes

Managing frontier AI risk: From training to deploymentOpenAI ↗