Ex-pesquisador de IA abandona setor e alerta para risco de perda de controle

Após trabalhar na OpenAI e na Anthropic, Jacob Coxon afirma que empresas avançam rumo a sistemas capazes de se aprimorar sozinhos sem garantias suficientes de segurança.

A saída de um pesquisador de uma das maiores empresas de inteligência artificial do mundo reacendeu o debate sobre os riscos da tecnologia. Jacob Coxon, de 27 anos, pediu demissão da Anthropic e anunciou que também estava deixando a indústria de IA após trabalhar durante aproximadamente três anos no desenvolvimento de modelos avançados.

Antes de integrar a Anthropic, empresa responsável pelo assistente Claude, Coxon trabalhou na OpenAI, criadora do ChatGPT. Nas duas companhias, atuou com pré-treinamento, uma etapa fundamental na construção de grandes modelos de linguagem, na qual os sistemas são expostos a enormes volumes de dados para desenvolver suas capacidades.

Ao anunciar sua decisão nas redes sociais, o pesquisador acusou as duas empresas de não agirem de maneira responsável. Segundo Coxon, os laboratórios estariam avançando rapidamente em direção a uma “superinteligência autoaperfeiçoável” sem terem demonstrado que seriam capazes de controlar uma tecnologia desse nível.

Para o pesquisador, o principal perigo não está necessariamente nas ferramentas disponíveis atualmente, mas nos sistemas que poderão surgir nos próximos anos. Uma inteligência artificial capaz de melhorar o próprio desempenho poderia acelerar o desenvolvimento de modelos ainda mais poderosos, reduzindo progressivamente a participação humana nesse processo.

Coxon argumenta que sistemas superiores aos humanos poderiam realizar ataques cibernéticos sofisticados, acelerar descobertas científicas e adquirir influência sobre estruturas digitais, recursos e decisões do mundo real. Ele afirmou que as empresas estariam “apostando com nossas vidas” ao participar dessa corrida sem mecanismos de segurança considerados suficientes.

O alerta ganhou ainda mais repercussão após Evan Hubinger, líder de pesquisas sobre alinhamento de inteligência artificial na Anthropic, manifestar apoio à preocupação. Hubinger afirmou considerar superior a 10% a possibilidade de uma IA provocar a extinção humana na próxima década. Ele também reconheceu que ainda não existe um plano comprovado para garantir o alinhamento de uma futura superinteligência aos interesses humanos.

O próprio pesquisador, entretanto, esclareceu que os modelos atuais apresentam um risco baixo. A preocupação está concentrada em uma possível geração futura de sistemas capazes de se aperfeiçoar com maior autonomia. Portanto, não existem evidências de que a inteligência artificial já esteja controlando o mundo ou de que haja um plano secreto para permitir que isso aconteça.

A repercussão chegou ao comando da Anthropic. Dario Amodei, CEO da empresa, defendeu que o setor diminua o ritmo de desenvolvimento para que as medidas de segurança consigam acompanhar o avanço dos modelos. Entre as propostas apresentadas estão avaliações realizadas por especialistas independentes, maior transparência dentro dos laboratórios e cooperação entre empresas e governos.

Nem todos os profissionais da tecnologia concordam com o tom das previsões. Críticos observam que Coxon trabalhava diretamente no pré-treinamento dos modelos, e não como responsável pela análise de riscos existenciais. Eles também destacam que cenários envolvendo a extinção humana permanecem como projeções, e não como acontecimentos comprovados.

Ainda assim, a demissão expõe uma questão concreta: as empresas disputam a liderança na criação de sistemas cada vez mais poderosos, enquanto pesquisadores reconhecem que ainda não sabem como controlar completamente uma eventual superinteligência. O avanço técnico acontece em velocidade superior à criação de leis, protocolos internacionais e instrumentos independentes de fiscalização.

A inteligência artificial não assumiu o controle do mundo. A verdadeira notícia é que profissionais envolvidos diretamente na construção dessa tecnologia temem que a humanidade desenvolva sistemas extremamente poderosos antes de descobrir como mantê-los sob controle.

Fontes para conferência: Reuters, Washington Post, TechCrunch, Scientific American, Exame e Folha de S.Paulo.