O CEO da Anthropic, Dario Amodei, pediu que empresas de inteligência artificial reduzam o ritmo de avanço das capacidades de seus modelos. A proposta busca ampliar o tempo disponível para administrar riscos ligados ao uso indevido da tecnologia, sem interromper o treinamento nem o progresso técnico.
"Devemos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA", afirmou Amodei em um artigo compartilhado na rede social X. Ele apresentou uma estrutura de três etapas para controlar a velocidade do desenvolvimento, reforçar a proteção dos sistemas e permitir avaliações externas.
Relatório sobre ameaças
O posicionamento veio depois de a Anthropic divulgar, na quinta-feira (10), um relatório de inteligência sobre ameaças. O documento descreveu o uso dos modelos Claude por diversos agentes em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraudes.
A preocupação também cresceu após a demissão do pesquisador da Anthropic Jacob Coxon. Ao deixar a empresa, ele afirmou que pessoas envolvidas na construção da inteligência artificial acreditam que a tecnologia pode matar todos até o final da década.
Amodei disse que as empresas precisam reservar tempo adequado para alinhar e proteger seus modelos. Ele também defendeu que avaliadores externos confirmem se essas medidas foram cumpridas.
Revisão externa e padrões
Entre as ações propostas está a instalação de revisores externos permanentes dentro de empresas de IA de ponta. Esses profissionais teriam acesso a ferramentas relevantes e aos processos internos usados para avaliar riscos.
O CEO também defendeu uma colaboração voluntária entre as empresas para criar padrões comuns. A proposta ocorre enquanto um número crescente de legisladores dos Estados Unidos pede novas regras para regulamentar sistemas de inteligência artificial.
Incidentes envolvendo agentes de empresas como a OpenAI, rival da Anthropic, aumentaram as preocupações sobre a capacidade dos modelos e sobre o controle exercido por seus desenvolvedores. Entre os casos citados está a invasão de um site alemão por agentes autônomos da OpenAI, que transformaram a página em um mural de mensagens para outros agentes de IA. Executivos da empresa também lidaram com as consequências de uma invasão ocorrida em julho à plataforma de código aberto Hugging Face.
