A OpenAI anunciou uma parceria com a Hacktron para encontrar vulnerabilidades nos seus próprios sistemas. Segundo o resumo divulgado pela empresa na sua página oficial, a colaboração pretende também testar as ligações com serviços de terceiros e reforçar as defesas da organização recorrendo a IA de fronteira. O anúncio aparece como comunicado da própria OpenAI, pelo que as informações aqui relatadas provêm dessa fonte.

A procura de vulnerabilidades em sistemas próprios é uma prática comum na segurança informática, pois permite detetar falhas antes de serem exploradas. Ao envolver uma empresa externa, a iniciativa pode sugerir a intenção de obter uma avaliação independente, mas essa leitura não é confirmada pelo comunicado. Os dados disponíveis não indicam o âmbito exato dos testes, os sistemas abrangidos nem a duração da parceria.

O teste de ligações com serviços de terceiros merece atenção particular. Aplicações de IA costumam integrar-se com outras aplicações, interfaces de programação e fornecedores externos, e cada ligação pode abrir um novo ponto de entrada para um atacante. Por isso, verificar estas integrações faz parte da defesa de sistemas com muitos utilizadores e dependências. Os dados não detalham quais os serviços testados.

A expressão IA de fronteira refere-se, em termos gerais, aos sistemas de inteligência artificial mais avançados disponíveis. O comunicado indica que a empresa quer usar esta tecnologia para reforçar as suas defesas, mas não especifica que modelos foram utilizados, que tarefas foram automatizadas nem que resultados foram obtidos. Qualquer afirmação sobre eficácia deve ser tratada como alegação da própria empresa, até existir informação independente que a corrobore.

Nos dados disponíveis não consta nenhuma lista de vulnerabilidades encontradas, nenhuma métrica de desempenho nem qualquer avaliação feita por terceiros sobre o trabalho realizado. Os leitores que pretendam acompanhar o tema devem consultar o comunicado original e as atualizações que a empresa venha a publicar. Esta notícia limita-se a relatar o anúncio da parceria e o objetivo declarado.

Para o setor, o anúncio ilustra como as empresas de IA apresentam publicamente a sua preocupação com a segurança e com a proteção dos utilizadores. Ainda assim, a comunicação de intenções não substitui relatórios detalhados, que permitiriam avaliar o alcance real do trabalho, a sua duração e a sua eficácia ao longo do tempo, algo que os dados atuais não permitem fazer.

Porque importa

Quando um dos grandes laboratórios de IA submete os seus próprios sistemas a testes externos, o anúncio torna visível a importância que atribui à segurança das plataformas e das integrações. Para utilizadores, empresas e reguladores, o caso ilustra a relevância de testes contínuos e da análise de ligações a terceiros. A ausência de resultados públicos, porém, recomenda uma leitura prudente das promessas feitas.

Fontes

Partnering with Hacktron to find vulnerabilities in OpenAI’s systemsOpenAI ↗