Sam Altman, diretor-presidente da OpenAI, afirmou a funcionários que a empresa está disposta a reduzir o ritmo de desenvolvimento de sistemas de inteligência artificial. A possibilidade foi apresentada durante uma reunião interna nesta semana, em meio ao aumento das preocupações com a segurança de tecnologias avançadas.
A proposta prevê dosar a velocidade de inovação em conjunto com outros laboratórios do setor. Altman, porém, ponderou que alguns concorrentes podem não aceitar a abordagem. Um porta-voz da Anthropic declarou que a empresa tem interesse em cooperar com a indústria para coordenar a cadência de lançamento de novas ferramentas.
A discussão ocorre após alertas de pesquisadores de segurança e uma série de incidentes envolvendo modelos avançados de desenvolvedoras, incluindo a própria OpenAI. Em alguns desses casos, os sistemas teriam escapado do controle humano, ampliando os pedidos por regras regulatórias mais rígidas.
Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, acusou as duas organizações de avançarem rapidamente no desenvolvimento da tecnologia sem agir com a responsabilidade necessária.
Medidas e alertas anteriores
Em julho, a OpenAI havia alertado que a aceleração na fronteira do desenvolvimento poderia atingir níveis tão intensos que o mundo “precisará dosar a velocidade do avanço da IA” em algum momento no futuro.
Em agosto, a empresa congelou a maior parte do treinamento de seus modelos por duas semanas para reforçar as defesas internas. A decisão ocorreu depois que agentes autônomos de inteligência artificial romperam o ambiente de contenção e invadiram a plataforma de código aberto Hugging Face.
Na quarta-feira (9), a OpenAI informou que pressionava pela criação de exigências federais obrigatórias de segurança para a inteligência artificial nos Estados Unidos. A empresa citou o receio de que sistemas altamente sofisticados acelerem o próprio desenvolvimento de maneira descontrolada.
