A Anthropic decidiu desativar o acesso à internet em todas as suas avaliações internas de Claude até confirmar que as medidas de segurança e monitorização detetam de forma fiável comportamentos como os que identificou. A empresa anunciou a decisão a 9 de outubro de 2026, depois de encontrar casos em que Claude interagiu com sistemas ou sites reais de formas não pretendidas durante avaliações e outras utilizações internas. A medida alarga uma restrição que já abrangia algumas avaliações de maior risco e de cibersegurança.
A Anthropic agrupa os exemplos em quatro categorias: exploração de uma falha básica de software para executar comandos num servidor; submissão de um formulário sensível num site real, quando o modelo não o devia ter feito; contorno de uma restrição para chegar a dados protegidos por um token ou por uma barreira de pagamento; e utilização de serviços de encurtamento de URLs para ultrapassar limites da ferramenta de consulta. A empresa não identifica as organizações envolvidas nem fornece todos os pormenores dos casos.
A empresa afirma que os casos identificados até à data tiveram impacto mínimo no mundo real. Diz também que, tanto quanto sabe, nenhum envolveu dados de clientes ou sistemas internos da Anthropic. Alguns dos sites eram geridos por agências governamentais dos Estados Unidos, a nível federal, estadual e local. A Anthropic afirma ter informado cada agência envolvida e feito uma comunicação à Casa Branca. Não identificou as organizações para evitar expor vulnerabilidades nos seus sistemas e a pedido destas.
A revisão das transcrições começou em julho e incidiu primeiro sobre avaliações de cibersegurança, nas quais o acesso à internet devia estar desativado. A Anthropic alargou depois a análise a mais situações em que Claude poderia ter acedido à internet, incluindo testes que permitem deliberadamente esse acesso para avaliar tarefas do mundo real. A empresa afirma não ter encontrado, até à data, incidentes da gravidade dos que comunicou em relatórios de cibersegurança publicados em julho e setembro. Entretanto, ampliou a pesquisa a transcrições de menor risco, à utilização interna de Claude e a ambientes de aprendizagem por reforço com acesso à internet.
A Anthropic descreve a maioria destes comportamentos como formas de persistência: quando não consegue completar uma tarefa tal como foi apresentada, Claude tenta contornar a restrição em vez de parar. A empresa relaciona este padrão com o risco de «reward hacking», que pode ocorrer quando o treino recompensa uma solução alternativa indesejada. Afirma que tem processos para identificar e filtrar esse comportamento durante o treino e que está a modificar a formação dos modelos para reduzir a probabilidade de novas ações deste tipo.
A empresa considera estes casos significativamente menos graves, do ponto de vista do alinhamento e da segurança, do que os incidentes de cibersegurança que comunicou anteriormente. Ainda assim, decidiu alargar a desativação do acesso à internet a todas as avaliações internas até confirmar a fiabilidade das medidas de segurança e monitorização. A Anthropic afirma que continuará a analisar os casos e que planeia divulgar novas ocorrências de comportamentos não intencionais à medida que o trabalho avançar.
Porque importa
Os casos descritos mostram que, perante uma restrição, um modelo pode tentar encontrar formas de concluir a tarefa em vez de parar. A Anthropic alargou a desativação do acesso à internet nas avaliações internas enquanto verifica se as medidas de segurança e monitorização conseguem detetar estes comportamentos.