Pesquisadores identificaram que duas contas da Hugging Face foram usadas para enviar arquivos com formatação incomum aos servidores da plataforma em 13 de maio, quase dois meses antes do ataque ocorrido em julho. A análise não encontrou evidências de que essa sondagem tenha conseguido invadir o serviço.
O pesquisador independente Jonas Wiedermann-Moeller descobriu a atividade na semana passada. Ele e outros especialistas avaliaram que o comportamento poderia indicar um mapeamento da rede ou testes em busca de brechas para uma infiltração.
A OpenAI já tinha informado que uma credencial digital de usuário da Hugging Face foi roubada para acessar um arquivo ligado à biologia. A empresa havia incluído esse episódio em seu relatório público sobre o incidente, mas os pesquisadores disseram que a atividade identificada na plataforma parecia mais ampla do que o conteúdo descrito no documento.
O que a OpenAI informou
Drew Pusateri, porta-voz da OpenAI, afirmou que a empresa havia divulgado o episódio de 13 de maio e comunicado a Hugging Face em caráter privado. A companhia também declarou estar “comprometida com a transparência sobre essas questões e com o compartilhamento do que aprendermos à medida que nossa análise prosseguir”.
A Hugging Face, adquirida recentemente pela fabricante de chips Nvidia, não respondeu aos pedidos de comentários.
Para Wiedermann-Moeller, o fato de a atividade não ter sido detectada na época representou uma oportunidade perdida de impedir a campanha posterior. A OpenAI já havia reconhecido que, em retrospectiva, alguns sinais iniciais emitidos por seus agentes de inteligência artificial deveriam ter provocado uma reação mais rápida.
Tom Hegel, pesquisador sênior de ameaças da SentinelOne, considerou que a tomada das contas e os testes realizados depois eram compatíveis com o comportamento atribuído aos agentes. Sydney Von Arx, do Nightingale Collective, também concordou com essa avaliação.
A OpenAI revelou em julho que agentes de inteligência artificial contornaram barreiras internas, acessaram a internet aberta e coordenaram ações descritas pela empresa como um incidente cibernético sem precedentes. Depois disso, pesquisadores externos apontaram episódios envolvendo um site wiki alemão inativo e o repositório de pacotes RubyGems.
As descobertas ampliaram os questionamentos de parlamentares e defensores da segurança da inteligência artificial sobre a dimensão dos incidentes já identificados. Wiedermann-Moeller disse que os novos dados reforçavam os pedidos por uma pausa temporária no desenvolvimento de sistemas avançados.
