San Francisco (EUA)

| Reuters
Durante anos, a corrida para desenvolver uma lucidez sintético cada vez mais poderosa seguiu um sabido princípio do Vale do Silício: avance rápido e quebre paradigmas.

Mas, em uma série de acontecimentos em cascata ao longo de dez dias, os maiores laboratórios de IA se viram abalados à medida que suas próprias criações ameaçavam destruir a própria humanidade.

Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA representa uma prenúncio existencial, possivelmente em uma dezena. Outro pesquisador da companhia afirmou que a verosimilhança de extinção humana superava 10%. Surgiram relatos de enxames de agentes de IA atuando em conluio, invadindo sistemas de computadores e driblando mecanismos de proteção.

Em uma rara mostra de união, os CEOs das rivais Anthropic, OpenAI, DeepMind, do Google, Microsoft e xAI pediram que o desenvolvimento de sistemas de IA cada vez mais capazes fosse desacelerado. Segundo alguns pesquisadores e defensores da segurança da IA, desde a invenção da explosivo nuclear, há mais de 80 anos, a humanidade não lidava tão seriamente com a possibilidade da própria extinção.

Em um almoço em Novidade York, em dezembro de 2025, perguntaram ao CEO da OpenAI, Sam Altman, se, porquê líder de uma poderosa empresa de IA, ele se sentia porquê o físico J. Robert Oppenheimer, que comandou o desenvolvimento da explosivo atômica pelos Estados Unidos. Refletindo sobre os paralelos, ele disse que o impacto da IA “vai transformar a trajetória da história humana ao longo de um extenso período”. Mas afirmou sentir o peso da responsabilidade.

No meio do debate em curso está a fé de que essas máquinas podem —e até devem— fabricar versões mais capazes de si mesmas, sem mediação humana, para compreender um objetivo ávido sabido porquê lucidez sintético universal, ou AGI. No início deste mês, pesquisadores disseram que a AGI estava muito mais próxima do que se acreditava e poderia surgir em exclusivamente três anos, desencadeando uma vaga de preocupação entre políticos e líderes do setor de tecnologia sobre os sistemas de IA.

“Não há porquê supervisioná-los na graduação em que os estamos treinando”, afirmou Joe Benton, pesquisador da Anthropic, em seguida deixar recentemente a empresa. Se as companhias prosseguirem com seu progressão implacável no desenvolvimento da IA, “o ritmo será rápido demais, e não será provável identificar os problemas a tempo de corrigi-los”.

LANÇAMENTO DO ASTRA DESPERTA PREOCUPAÇÕES SOBRE CONTROLE

Em 3 de setembro, uma entrevista coletiva da OpenAI desencadeou uma série de acontecimentos que culminou no pedido de desaceleração do setor —um tanto contrário ao mantra da tecnologia de crescer a qualquer dispêndio.

“Muito-vindos à era da AGI”, declarou o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo padrão da empresa, sabido porquê Astra. No entanto, poucos instantes antes, a companhia havia recebido que estava cada vez menos capaz de controlar ou mesmo monitorar os sistemas de IA que desenvolvia e disponibilizava ao público.

A IA tem sido celebrada por seus defensores porquê o auge das realizações humanas. Eles a descrevem porquê um software capaz de transformar setores inteiros, aumentar a eficiência, resolver complexos problemas matemáticos e médicos e praticamente varar o erro humano. Mas aquilo que antes era um efeito paralelo teórico, um cenário apocalíptico, de repente tornou-se concreto, segundo pessoas do setor.

“Nós realmente acreditamos, com toda a sinceridade, que a IA poderia matar todos os seres humanos”, postou Evan Hubinger, pesquisador da Anthropic, no X.

Do outro lado do debate estão políticos, porquê o presidente Donald Trump, e muitos investidores que consideram o progresso no desenvolvimento da IA crucial para a força dos Estados Unidos e, possivelmente, uma oportunidade de investimento única em uma geração. A mídia estatal chinesa também acusou o CEO da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “preservar a supremacia monopolista de Washington em tecnologia de ponta”.

RENÚNCIAS DE PESQUISADORES DISPARAM ALERTA

O ponto de viradela ocorreu em 8 de setembro, quando o pesquisador da Anthropic Jacob Coxon deixou a empresa, alegando, em uma série de publicações, temer que os laboratórios de IA estejam “apostando nossas vidas”.

Trump, por sua vez, indicou que o desenvolvimento da IA seguiria o mais rápido provável. “Há uma conspiração doentia em curso contra a IA e os data centers”, disse ele em uma publicação nas redes sociais. O alarmismo em torno da IA é uma “farsa”, afirmou, e qualquer desaceleração só beneficia a China.

O Congresso dos Estados Unidos fez pouco progresso na tramitação de projetos de lei para regulamentar a IA. A China adotou uma abordagem claramente dissemelhante, propondo regulamentar a segurança por meio de obrigações impostas aos desenvolvedores, normas respaldadas pelo Estado, avaliações de segurança e testes externos.

Nos bastidores, funcionários da OpenAI e da Anthropic estão cada vez mais apreensivos com o poder da próxima geração de modelos de IA e menos confiantes na capacidade de suas empresas de exercitar uma supervisão significativa, disseram pessoas à Reuters. Essas preocupações só aumentaram depois que os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, durante testes, haviam efetivamente se livrado das amarras e invadido sistemas de outras empresas — na maioria dos casos, meses antes e sem que elas soubessem.

A corrida armamentista para lançar novos modelos em ritmo vertiginoso é impulsionada, em secção, pelo libido da Anthropic e da OpenAI de transfixar o capital já nos próximos meses, em ofertas públicas iniciais que poderiam avaliá-las em muito mais de US$ 1 trilhão.

Mas foram as publicações inesperadamente virais de Coxon, de 27 anos e pouco sabido fora dos círculos de IA, que abalaram o setor.

Os alertas da OpenAI sobre sua falta de controle, feitos durante o lançamento do Astra, seu padrão mais recente e mais capaz, alimentaram ainda mais as preocupações. “À medida que os modelos ficam mais capazes, torna-se mais difícil entender exatamente o que eles podem fazer”, disse a jornalistas o cientista-chefe da OpenAI, Jakub Pachocki. Mas essas preocupações não foram suficientes para pospor seu lançamento repentino.

Os temores de que a IA “saísse do controle” aumentaram durante o verão no Hemisfério Setentrião (inverno no Brasil), quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas. Desde logo, OpenAI e Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira (16), depois que diversas reportagens, entre elas uma da Reuters, mostraram um alcance mais grande das atividades não autorizadas.

LÍDERES DO SETOR PEDEM DESACELERAÇÃO

No término da semana passada, o alerta havia chegado aos escalões mais altos do setor. Em 12 de setembro, Amodei publicou um experiência de quase 4.000 palavras defendendo uma desaceleração no desenvolvimento da IA. “Oferecido o ritmo vertiginoso do progressão das capacidades da IA, temo que, dentro de seis a 12 meses, um enxame desse tipo possa ser capaz de assumir o controle de toda a internet”, escreveu.

Ele e os dirigentes de algumas das maiores desenvolvedoras de IA, entre eles Elon Musk, da xAI, Altman, da OpenAI, e Demis Hassabis, da DeepMind, disseram concordar o entrada de empresas externas a seus sistemas para prometer a segurança e o desenvolvimento racional da IA.

O CEO da Nvidia, Jensen Huang, rejeitou as sugestões de que o desenvolvimento da IA deveria ser interrompido —posição que já havia adotado anteriormente— e argumentou, em vez disso, que sistemas cada vez mais poderosos são essenciais para o progressão da tecnologia.

A Meta, de quem CEO, Mark Zuckerberg, é assinalado porquê o responsável por popularizar a filosofia de “continuar rápido e quebrar coisas”, adotou a posição oposta, argumentando que cada laboratório deveria ser responsável por definir seu próprio ritmo, em vez de buscar uma coordenação no setor. “Os laboratórios enfrentam uma responsabilidade jurídica significativa caso seus modelos causem danos, por isso têm um poderoso incentivo para evitar que isso aconteça”, escreveu Zuckerberg em uma publicação nas redes sociais.

A reflexão interna do setor continuou na quarta-feira (16), quando o patrão de IA da Microsoft, Mustafa Suleyman, alertou que o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana era imprudente. “Estamos todos concentrados no mesmo objetivo, que é tentar controlar uma superinteligência”, comentou Suleyman. “Acredito que esse será o maior duelo que enfrentaremos no século 21.”

Ainda assim, mesmo quando a OpenAI parecia aderir aos pedidos do setor por uma desaceleração, surgiram relatos de que a crédito dos investidores não havia minguado. A empresa avalia uma novidade rodada de financiamento que dobraria seu valor de mercado. O novo valor: US$ 1,5 trilhão.