Jacob Coxon, pesquisador de 27 anos que deixou a Anthropic, acusou a empresa e a OpenAI de avançarem de forma irresponsável na construção de uma superinteligência capaz de se aprimorar sozinha. A crítica foi publicada na terça-feira (8), na rede social X, e teve mais de 400 mil curtidas até a manhã desta quarta-feira (9).
Coxon afirmou que pediu demissão da Anthropic na terça-feira, depois de três anos trabalhando no treinamento de modelos de inteligência artificial. Antes, ele havia trabalhado na OpenAI. Na avaliação do pesquisador, as empresas conhecem os riscos da tecnologia, mas isso não reduziu a competição pelo desenvolvimento de sistemas cada vez mais avançados.
“Em breve, esses sistemas serão sobre-humanos, capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”, escreveu Coxon.
Críticas à Anthropic e à OpenAI
Segundo Coxon, parte dos profissionais do setor acredita que a inteligência artificial poderia matar todos os seres humanos até o fim desta década. Ele também afirmou que executivos e pesquisadores seniores amenizam suas declarações públicas para parecerem sensatos.
O pesquisador diferenciou as situações de OpenAI e Anthropic. Para ele, muitos profissionais da OpenAI ainda não compreenderam profundamente as consequências da tecnologia para a civilização. Na Anthropic, essas consequências seriam mais bem compreendidas, mas a empresa estaria presa à disputa para chegar primeiro, diante da avaliação de que outras companhias não agirão com responsabilidade.
Coxon classificou a adesão a essa corrida como uma aposta e defendeu que acelerar o alinhamento dos sistemas exigiria confiança extraordinária na ausência de alternativas melhores.
Outro pesquisador da Anthropic, Evan Hubinger, respondeu à publicação e disse concordar com o ex-colega. Ele afirmou que a empresa realmente considera possível que a inteligência artificial mate todos os seres humanos e estimou em mais de 10% a probabilidade de isso ocorrer na próxima década.
“Jacob está certo neste ponto — nós realmente acreditamos, com toda a sinceridade, que a inteligência artificial poderia matar todos os seres humanos!”, escreveu Hubinger. Ele acrescentou que a Anthropic faz o melhor que pode, mas ainda não tem um plano para resolver o alinhamento de uma superinteligência nem está claramente próxima de encontrar uma solução.
