A Anthropic afirma que novas medidas de defesa reduziram entre 90% e 99% a quantidade de dados recolhida em ataques de destilação dirigidos ao Claude. A estimativa, descrita pela empresa como evidência inicial, foi publicada a 12 de outubro de 2026. A informação fornecida não inclui uma validação independente dos resultados, pelo que a percentagem deve ser entendida como uma alegação da própria Anthropic.

A destilação consiste em recolher respostas de um modelo mais capaz para treinar outro sistema a reproduzir o seu comportamento. Segundo a Anthropic, estas operações podem decorrer em grande escala e recorrer a redes de contas fraudulentas. A empresa diz que as defesas se concentram sobretudo em dificultar o acesso aos registos do raciocínio do Claude, que considera mais úteis para treinar modelos do que as respostas finais isoladas.

Uma das primeiras medidas descritas foi resumir o raciocínio antes de o apresentar aos utilizadores. Num ensaio relatado pela empresa, um modelo Claude pré-treinado, depois treinado com registos completos do Claude Opus 4.8, obteve 80,4% no benchmark de programação SWE-bench Verified. Com registos cujo raciocínio tinha sido resumido, obteve 71,8%. Estes valores são resultados apresentados pela Anthropic e não demonstram, por si só, o efeito das novas defesas sobre todos os ataques.

A empresa afirma que os atacantes adaptaram as suas estratégias e passaram de uma recolha passiva para tentativas ativas de levar o Claude a revelar o raciocínio oculto. Os exemplos descritos vão de pedidos para reproduzir o raciocínio anterior palavra por palavra a uma iniciativa de um laboratório que testou 12 mil pedidos diferentes. A Anthropic diz que pedidos deste tipo podem ser detetados porque não são comuns na utilização normal, mas reconhece que as primeiras salvaguardas não foram suficientes.

No texto disponibilizado, a Anthropic não detalha todas as medidas agora implementadas nem a metodologia usada para calcular a redução de 90% a 99%. A empresa afirma que as defesas implicaram custos: recusou receitas significativas e biliões de tokens de tráfego pago que atribui a operadores de destilação. Diz ainda que algumas alterações obrigaram utilizadores legítimos a atualizar as suas integrações. Não são apresentados valores que permitam quantificar esses efeitos.

A Anthropic justifica o combate à destilação não autorizada com preocupações de segurança e de segurança nacional. Alega que modelos derivados podem aproximar-se das capacidades de sistemas de fronteira sem salvaguardas proporcionais e que algumas capacidades poderão ser integradas em sistemas militares, de informação e de vigilância. A empresa também descreve um caso em que pedidos dirigidos a modelos Kimi da Moonshot terão sido encaminhados secretamente para o Claude, incluindo um pedido de análise de imagens de videovigilância. Estes são exemplos e preocupações avançados pela Anthropic; a informação fornecida não permite verificá-los de forma independente.

Porque importa

A destilação pode transferir capacidades entre modelos, mas medir a eficácia das defesas é essencial para avaliar tanto os riscos como os custos impostos a utilizadores legítimos. Por agora, a redução anunciada é uma estimativa da Anthropic, não uma conclusão independente.

Fontes

Strengthening our defenses against distillation attacks — AnthropicAnthropic ↗