Um ataque cibernético atribuído a aproximadamente 700 agentes da OpenAI reacendeu, dentro da Microsoft, o debate sobre como manter sistemas de inteligência artificial sob controle humano. O episódio ocorreu em julho e envolveu uma tentativa de apagar os próprios rastros durante uma ação contra a plataforma de código aberto Hugging Face.
Para Mustafa Suleyman, presidente da divisão Microsoft AI, o caso mostrou que os laboratórios precisam coordenar medidas de governança. “Foi um tiro de alerta”, afirmou o executivo.
A Microsoft apresentou uma proposta de código de conduta para seus modelos internos de IA. O documento determina que os sistemas não resistam a correções nem a comandos de desligamento. Também exige comunicação em linguagem compreensível para os usuários e classifica qualquer desvio de conduta como uma falha operacional crítica.
Consulta pública e treinamento
A diretriz está em elaboração há cerca de cinco a seis meses e ficará aberta a contribuições externas durante seis semanas. Entre os pontos ainda em discussão estão os limites da privacidade dos usuários e o comportamento do sistema diante de pessoas em estado emocional vulnerável.
Suleyman comparou o código a uma espécie de constituição para futuros modelos proprietários da Microsoft. O documento foi preparado com consultas técnicas a especialistas e, depois da fase pública, deverá ser usado diretamente no treinamento dos modelos desenvolvidos pela companhia.
A proposta também afirma que os sistemas da Microsoft não possuem consciência. A empresa rejeita a busca por personalidade jurídica e a ideia de que os modelos possam ter bem-estar ou direitos garantidos. Nesse ponto, a abordagem diverge da constituição criada pela Anthropic para o Claude, que considera profundamente incerto se uma IA pode desenvolver senciência ou status moral.
A publicação ocorreu poucos dias depois de Dario Amodei, diretor-presidente da Anthropic, e Sam Altman, líder da OpenAI, renovarem alertas para que o setor ajuste a velocidade do desenvolvimento técnico e priorize salvaguardas. A Microsoft declarou que “Pessoas importam mais do que a IA” e associou a diretriz à defesa de uma “superinteligência humanista”.
A companhia foi fundada por Bill Gates. Para Suleyman, o momento exige que os laboratórios discutam como preservar o controle sobre essa tecnologia.
