A Open Secure AI Alliance, um consórcio que integra atualmente mais de 120 organizações, anunciou o desenvolvimento de novas diretrizes destinadas a fortalecer a cibersegurança em sistemas de inteligência artificial agentiva. A Linux Foundation publicou um pedido de comentários sobre o Shared AI Findings Exchange, conhecido pela sigla SAFE, um quadro de referência concebido para transformar incidentes de segurança em lições partilhadas que beneficiem todo o ecossistema tecnológico. O anúncio foi feito no contexto da conferência Black Hat, em Las Vegas.
O objetivo central da proposta SAFE é estabelecer um mecanismo para a recolha e análise confidencial de incidentes e quase-incidentes envolvendo agentes de IA. Ao identificar falhas de controlo recorrentes e publicar recomendações operacionais baseadas em evidências, a aliança pretende reduzir o risco sistémico associado à rápida proliferação de agentes autónomos. A iniciativa conta com a colaboração de empresas de referência no setor, incluindo a NVIDIA, Cisco, CrowdStrike, Hugging Face e Red Hat, que trabalham em conjunto para definir normas de transparência.
A cibersegurança é descrita pelos promotores como uma corrida sem meta, onde cada mudança tecnológica significativa introduz novas superfícies de ataque. A estratégia da aliança baseia-se na premissa de que a defesa coletiva funciona como um multiplicador de força, especialmente quando a inteligência sobre ameaças é partilhada de forma aberta e célere. A estrutura SAFE complementa outras ferramentas de código aberto já disponibilizadas pelos membros da aliança, focadas em camadas como a identidade, guardrails, registos e avaliação de modelos.
A NVIDIA tem contribuído com diversas tecnologias para este ecossistema, como o ambiente de investigação NOOA e o runtime OpenShell, que restringe as capacidades de interação dos agentes para garantir a privacidade. Além disso, a empresa mantém famílias de modelos abertos, como o Nemotron e o Cosmos, acompanhados por ferramentas de segurança como o NeMo Guardrails e o scanner de vulnerabilidades Garak. Estas soluções visam permitir que as equipas de segurança verifiquem modelos contra fugas de dados ou injeções de comandos antes da sua implementação.
Outros membros da aliança estão a expandir o leque de ferramentas disponíveis, focando-se em áreas como a gestão de identidades e permissões. A Okta, por exemplo, desenvolve implementações de referência para a identidade de agentes, enquanto a Red Hat introduziu o projeto asago, que mapeia requisitos de governação, como os do Regulamento da IA da União Europeia, diretamente para as permissões de execução dos agentes. Estas iniciativas sublinham a necessidade de uma abordagem holística para proteger sistemas que operam de forma autónoma em ambientes empresariais complexos.
Porque importa
A proposta SAFE representa um esforço para padronizar a resposta a incidentes num setor onde a velocidade de desenvolvimento dos agentes de IA supera frequentemente a capacidade de implementação de defesas. Ao promover a transparência e a partilha de dados entre concorrentes, a aliança tenta criar uma imunidade coletiva contra ameaças emergentes, essencial para a adoção segura de IA em infraestruturas críticas.