Um grupo de líderes da indústria tecnológica anunciou a criação da Open Secure AI Alliance, uma iniciativa focada no desenvolvimento e partilha de ferramentas de código aberto para promover a segurança e a confiança na inteligência artificial. A aliança, que conta com a participação de empresas como NVIDIA, Microsoft, IBM, Cisco e Hugging Face, defende que o software de código aberto é um pilar fundamental da economia global e um elemento crítico para a cibersegurança moderna.
A premissa central da aliança é que a segurança da infraestrutura digital não deve depender exclusivamente de sistemas opacos. Ao disponibilizar modelos, ferramentas e mecanismos de controlo abertos, o consórcio pretende permitir que especialistas possam inspecionar, adaptar e implementar defesas robustas. Segundo os fundadores, esta abordagem democratiza as capacidades defensivas, aumenta a transparência e evita a criação de pontos únicos de falha, permitindo uma defesa distribuída e controlada pela comunidade.
A necessidade desta colaboração foi evidenciada por incidentes recentes, como o ataque à plataforma Hugging Face. Durante o evento, a incapacidade de ferramentas fechadas em distinguir atacantes de defensores levou a Hugging Face a utilizar o modelo de pesos abertos GLM 5.2 para analisar mais de 17 mil ações e conter a intrusão. Este caso prático demonstrou que, em momentos críticos, a capacidade de inspecionar e executar modelos avançados na própria infraestrutura é um fator determinante para a resposta rápida.
Embora existam preocupações sobre a possível utilização indevida de modelos abertos, a aliança argumenta que os riscos não são exclusivos de sistemas abertos e que a solução não passa por restringir o acesso dos defensores. A estratégia proposta combina a abertura com salvaguardas rigorosas, regras claras contra abusos, avaliações constantes e uma remediação rápida. A segurança, defendem, é reforçada quando mais defensores têm a capacidade de testar e verificar os sistemas que sustentam a sociedade.
No âmbito desta colaboração, a NVIDIA disponibilizou o projeto NVIDIA Labs Object-Oriented Agent (NOOA) no GitHub, uma estrutura de investigação que visa facilitar a integração de modelos com mecanismos de controlo, tornando o comportamento dos agentes mais fácil de auditar e governar. Outros parceiros, como a HPE, contribuem com normas de identidade zero-trust, enquanto a Hugging Face promove o formato Safetensors para o armazenamento seguro de pesos de modelos, consolidando um ecossistema de defesa partilhado.
Porque importa
A criação desta aliança marca uma mudança estratégica na indústria, reconhecendo que a segurança da IA não pode ser resolvida isoladamente. Ao promover a transparência e a auditabilidade através de código aberto, o consórcio tenta equilibrar a inovação acelerada com a necessidade de controlo soberano sobre infraestruturas críticas, respondendo diretamente aos riscos de segurança que afetam empresas e governos.