GlossárioSegurança

Vulnerabilidade

Um ponto fraco ou falha num sistema de inteligência artificial que pode ser explorado para causar danos ou obter acesso a dados protegidos.

Explicação

Uma vulnerabilidade em IA pode ser um erro na forma como o modelo processa informações, permitindo que um utilizador mal-intencionado obtenha respostas proibidas ou aceda a dados sensíveis.

Identificar estas falhas é o objetivo principal das auditorias de segurança, permitindo que os criadores corrijam os problemas antes que possam ser explorados.

Exemplo

Se um sistema de IA for vulnerável, alguém poderia tentar enganá-lo para que este ignorasse as suas regras de segurança e revelasse dados pessoais de terceiros.

Fontes de referência

Demonstração interativa

Como pedir uma explicação sobre “Vulnerabilidade”

Uma boa conversa começa com um pedido simples. Depois, peça um exemplo e confirme se percebeu.

Você

O que significa “Vulnerabilidade”? Explique sem usar palavras técnicas.

Assistente de IA

Um ponto fraco ou falha num sistema de inteligência artificial que pode ser explorado para causar danos ou obter acesso a dados protegidos. Uma vulnerabilidade em IA pode ser um erro na forma como o modelo processa informações, permitindo que um utilizador mal-intencionado obtenha respostas proibidas ou aceda a dados sensíveis.

Você

Pode dar-me um exemplo do dia a dia?

Assistente de IA

Se um sistema de IA for vulnerável, alguém poderia tentar enganá-lo para que este ignorasse as suas regras de segurança e revelasse dados pessoais de terceiros.

Lembre-se: Se o termo aparecer numa decisão importante, confirme o significado e o contexto na fonte indicada nesta página.