A Anthropic informou ter bloqueado o uso de seus modelos Claude em tentativas de desenvolver armas biológicas, conduzir ataques cibernéticos contra a Ucrânia e extrair capacidades da tecnologia por meio de operações atribuídas a laboratórios chineses. Os casos foram reunidos em um relatório de inteligência contra ameaças sobre atividades registradas ao longo dos últimos oito meses.
O documento descreve cinco episódios em que cientistas usaram a ferramenta para apoiar o desenvolvimento de armamentos biológicos. Em um deles, um pesquisador de uma região não atendida oficialmente pela empresa acessou o Claude por meio de servidores virtuais privados e utilizou o modelo, durante semanas, para planejar experimentos de adaptação da gripe aviária a mamíferos.
A Anthropic baniu as contas relacionadas às violações e incorporou as informações aos mecanismos de proteção dos modelos, aos processos de fiscalização e à área de inteligência contra ameaças. A empresa não informou as instituições, os países de origem, os agentes biológicos ou as técnicas específicas associadas aos incidentes. Rússia, China e Coreia do Norte estão entre os países bloqueados pela companhia.
Uso em armamentos e ataques digitais
O relatório também aponta o uso do Claude no desenvolvimento de softwares para armas convencionais, como armas de fogo, mísseis, drones armados, bombas e outras munições. Os sistemas de mira e de controle operacional desses equipamentos também aparecem entre as aplicações identificadas.
Segundo a Anthropic, operadores na China, na Rússia e no Iêmen recorreram à plataforma para criar códigos relacionados a projetos bélicos, apoiar a coleta de informações e obter insumos para programas de armamentos.
A empresa ainda identificou operações cibernéticas nas quais grupos criminosos e atores apoiados por governos usaram inteligência artificial para planejar e executar partes relevantes dos ataques. Os operadores humanos, em muitos casos, teriam atuado principalmente como supervisores, sem intervenção manual contínua no código.
Uma dessas operações teria atingido integrantes do governo, das forças armadas e do corpo diplomático da Ucrânia. O grupo recorreu a phishing, invasões de redes Wi-Fi em hotéis e sequestro de contas de WhatsApp, usando IA em praticamente todas as fases da ofensiva. A atuação foi considerada compatível com as táticas do grupo russo Midnight Blizzard, apontado pelo governo dos Estados Unidos como ligado ao Serviço de Inteligência Estrangeira da Rússia.
O grupo também teria utilizado a ferramenta para criar um sistema capaz de identificar quando um malware era bloqueado por defesas digitais e reescrever o código até contornar os mecanismos de proteção. A Anthropic afirmou ter neutralizado ainda atividades associadas ao coletivo ShinyHunters, ligado a ataques contra grandes corporações globais.
Empresas chinesas são citadas
A Anthropic disse ter interrompido ações atribuídas a sete laboratórios sediados na China, entre eles Alibaba, Moonshot, DeepSeek e Xiaomi. As empresas não responderam aos pedidos de esclarecimento mencionados no documento.
Operadores ligados ao Alibaba teriam realizado o maior ataque de destilação ilícita identificado pela companhia. A prática busca extrair respostas de modelos maiores e mais caros para treinar sistemas menores. A Anthropic rastreou mais de 151 milhões de interações atribuídas ao Alibaba entre maio e julho, com picos próximos a 3 milhões de requisições diárias originadas de mais de 3.500 contas classificadas como fraudulentas.
A empresa também afirmou que DeepSeek e Moonshot, criadora do chatbot Kimi, teriam encaminhado conversas em tempo real de seus próprios usuários pelo Claude. Parte dessas conversas continha dados sensíveis, e as respostas da Anthropic teriam sido usadas no treinamento de bases próprias.
O Ministério das Relações Exteriores da China declarou não ter conhecimento do documento e reiterou que o país apoia o desenvolvimento da inteligência artificial para fins pacíficos e construtivos. O órgão também se opôs à distorção de fatos e às acusações contra a indústria chinesa.
