*Segundo a empresa, houve tentativas de usar o Claude em sete frentes de dano: ataques cibernéticos, operações de influência (propaganda), vigilância, golpes e fraudes, uso biológico, desenvolvimento de armas convencionais e “destilação” (quando alguém tenta extrair conhecimento de um modelo para treinar outro).
Abaixo alguns itens que a Anthropic destacou que barrou:
- Cinco casos de cientistas que usaram seus modelos em pesquisas biológicas. Segundo a empresa, os pesquisadores contornaram proteções de acesso por região e ocultaram o objetivo de parte do trabalho.
- Um pesquisador usou o Claude em um pedido de financiamento estatal para estudar o vírus chikungunya. A companhia afirma que o estudo sobre chikungunya gerou preocupação por estar previsto para ser realizado em um instituto de pesquisa militar e disse ao New York Times que esse tipo de pesquisa pode contribuir para vacinas, mas também pode ser aplicado na criação de armas biológicas.
- Casos de governos e grupos ligados a Estados usando o Claude para vigilância e monitoramento de pessoas, incluindo dissidentes e comunidades da diáspora, além de tentativas de automatizar rotinas de inteligência.
- Uso do Claude para criar ou apoiar softwares ligados ao projeto e à fabricação de armas convencionais, como armas de fogo, mísseis, drones armados e bombas.
- Operações de espionagem, assim como ataques cibernéticos rápidos e campanhas de propaganda – entre os países citados estão Rússia, Malásia, Irã e Bangladesh.
- Grupos também usaram o Claude em programas de vigilância ligados à China. Um dos casos citados envolveu o monitoramento de uigures na Síria, enquanto outro teve como alvo dissidentes internos.
- Em “destilação”, a Anthropic afirma ter detectado e atribuído com alta confiança campanhas não autorizadas a laboratórios baseados na China, citando Alibaba, Moonshot AI, DeepSeek, Zhipu e Xiaomi, com foco em capacidades valiosas do Claude (como uso de ferramentas, programação, análise de dados e raciocínio).
IAgora?
O relatório da Anthropic é um retrato de como a IA deixou de ser apenas um chatbot e virou uma espécie de motor de produtividade para atividades que a sociedade tenta manter sob controle – de golpes a vigilância estatal. O ponto mais delicado não é a existência de gente tentando burlar regras (isso sempre existiu), mas a escala: quando um modelo ajuda a fazer em minutos o que antes exigia equipes e tempo, o custo de “tentar o mal” cai, e a quantidade de tentativas tende a explodir.
O trecho sobre possível uso em pesquisa ligada a armas biológicas expõe um dilema sem solução perfeita: a mesma pergunta que pode acelerar uma vacina pode, em outro contexto, ajudar a criar um patógeno perigoso. Na prática, isso empurra empresas como a Anthropic para um papel quase de “porteiro do conhecimento” – decidindo, com informação incompleta, o que é ciência e o que é ameaça.