O que significa “Vulnerabilidade”? Explique sem usar palavras técnicas.
Vulnerabilidade
Um ponto fraco ou falha num sistema de inteligência artificial que pode ser explorado para causar danos ou obter acesso a dados protegidos.
Explicação
Uma vulnerabilidade em IA pode ser um erro na forma como o modelo processa informações, permitindo que um utilizador mal-intencionado obtenha respostas proibidas ou aceda a dados sensíveis.
Identificar estas falhas é o objetivo principal das auditorias de segurança, permitindo que os criadores corrijam os problemas antes que possam ser explorados.
Se um sistema de IA for vulnerável, alguém poderia tentar enganá-lo para que este ignorasse as suas regras de segurança e revelasse dados pessoais de terceiros.
Fontes de referência
Como pedir uma explicação sobre “Vulnerabilidade”
Uma boa conversa começa com um pedido simples. Depois, peça um exemplo e confirme se percebeu.
Lembre-se: Se o termo aparecer numa decisão importante, confirme o significado e o contexto na fonte indicada nesta página.