GlossárioSegurança

Segurança e testes de IA

Processos técnicos utilizados para verificar se um sistema de inteligência artificial é fiável, seguro e cumpre os requisitos de proteção de dados.

Explicação

Os testes de segurança envolvem a análise exaustiva de um modelo de IA para identificar falhas, comportamentos perigosos ou vulnerabilidades que possam comprometer a privacidade dos utilizadores.

Estes processos são realizados em ambientes controlados, onde especialistas tentam forçar o sistema a falhar para garantir que as salvaguardas funcionam corretamente antes da utilização pública.

Exemplo

Antes de uma empresa lançar um novo assistente virtual, realiza testes de segurança para garantir que o sistema não revela informações privadas de outros utilizadores durante uma conversa.

Fontes de referência

Demonstração interativa

Como pedir uma explicação sobre “Segurança e testes de IA”

Uma boa conversa começa com um pedido simples. Depois, peça um exemplo e confirme se percebeu.

Você

O que significa “Segurança e testes de IA”? Explique sem usar palavras técnicas.

Assistente de IA

Processos técnicos utilizados para verificar se um sistema de inteligência artificial é fiável, seguro e cumpre os requisitos de proteção de dados. Os testes de segurança envolvem a análise exaustiva de um modelo de IA para identificar falhas, comportamentos perigosos ou vulnerabilidades que possam comprometer a privacidade dos utilizadores.

Você

Pode dar-me um exemplo do dia a dia?

Assistente de IA

Antes de uma empresa lançar um novo assistente virtual, realiza testes de segurança para garantir que o sistema não revela informações privadas de outros utilizadores durante uma conversa.

Lembre-se: Se o termo aparecer numa decisão importante, confirme o significado e o contexto na fonte indicada nesta página.