As pessoas que trabalham na espaço de tecnologia estão “genuinamente assustadas” com a velocidade dos avanços da perceptibilidade sintético e o que ela pode valer para o horizonte da humanidade, disse um pesquisador que pediu exoneração da Anthropic, empresa líder em perceptibilidade sintético e criadora do Claude.

“Acredito que, se não diminuirmos o ritmo atual de progresso, há uma grande chance de todos morrermos em um horizonte próximo”, afirmou Jacob Coxon, em entrevista à BBC.

Coxon, de 27 anos, passou os últimos três anos trabalhando com pré-treinamento de modelos de perceptibilidade sintético —primeiro na OpenAI, depois na Anthropic—, mas anunciou na última semana seu pedido de exoneração em uma longa publicação no X.

A postagem viralizou em meio às crescentes preocupações da indústria com a segurança da IA.

O ex-chefe de Coxon, Dario Amodei, diretor da Anthropic, pediu recentemente, em um experimento, pediu que o ritmo de desenvolvimento de modelos de perceptibilidade sintético seja desacelerado e monitorado de perto.

Os chefes de duas empresas rivais de IA, Sam Altman da OpenAI e Elon Musk da xAI, disseram concordar com a proposta de Amodei de desaceleração e regulamentação em toda a indústria, muito porquê de monitoramento independente do desenvolvimento de modelos de IA.

Amodei afirmou no experimento publicado no sábado (12) que o desenvolvimento da tecnologia não estava em questão, mas que os riscos associados a ela eram “sérios” e que empresas e governos precisavam de tempo para mourejar com eles.

Coxon acolheu a sugestão de uma desaceleração, mas afirmou que esta precisaria ser coordenada com a China para evitar “uma corrida em graduação internacional”.

“As pessoas que trabalham nessas empresas falam muito sério quando pedem regulamentação, porque se sentem presas em uma corrida. E têm pavor das consequências dessa corrida”, disse ele ao programa Sunday with Laura Kuenssberg, da BBC.

De harmonia com Coxon, a pergunta mais difícil de responder atualmente é porquê seria um apocalipse criado pela IA.

Um dos riscos destacados por Amodei em seu experimento foi o de um enxame de bots agindo porquê um supercomputador que poderia dominar a internet.

Coxon afirmou que esse cenário poderia se tornar realista dentro de seis meses a um ano.

Em resposta à saída de Coxon, um porta-voz da Anthropic disse à BBC News: “Sempre fomos transparentes quanto ao indumentária de que a IA trará tanto enormes benefícios quanto riscos sem precedentes.”

“Para mourejar com esses riscos, continuamos a desenvolver modelos com algumas das salvaguardas mais robustas do setor.”

A empresa tem sido pioneira no estudo do funcionamento dos modelos de IA, acrescentou o porta-voz. Foi a primeira a publicar uma estrutura para mitigar os riscos decorrentes do seu desenvolvimento —e também testa os seus modelos de forma “agressiva” e publica as conclusões para facilitar a estudo e prevenir incidentes de “desalinhamento da IA”.

“Nascente trabalho também explica por que acreditamos que o mundo se beneficiaria se a indústria adotasse uma forma lícito e verificável de trabalhar em conjunto para definir o ritmo de lançamento de modelos robustos”, afirmaram.

Muitos outros na indústria também expressaram suas preocupações desde a publicação de Coxon nas redes sociais, incluindo o pesquisador antropológico Evan Hubinger.

“Acreditamos sinceramente que a IA pode matar todos os humanos! Pessoalmente, acho que esse número ultrapassará 10% na próxima dezena”, disse Hubinger em resposta à publicação.

O pesquisador da computação e ganhador do Prêmio Nobel Geoffrey Hinton, divulgado porquê o “Pai da IA”, disse à BBC na sexta-feira (11) que uma verosimilhança de 10% de a IA matar todos os humanos “não é irrazoável”.

Entretanto, Marc Warner, diretor executivo da Faculty AI, empresa especializada em segurança de IA, disse à BBC que era “extremamente difícil estabelecer uma verosimilhança” de a IA matar todos os humanos.

“Mas é importante reconhecer que essas pessoas são muito sinceras no que dizem”, acrescentou, observando que os riscos da IA também vêm sendo alertados pelos chefes de diversas empresas de perceptibilidade sintético há anos.

No entanto, algumas figuras do setor sugeriram que os comentários sobre os perigos e o poder da IA podem ter sido elaborados para gerar expectativa.

O diretor executivo da plataforma de IA Hugging Face, Clement Delangue, disse nas redes sociais: “Desculpe, mas perguntar a Jacob [Coxon] sobre o risco de extinção da IA é porquê perguntar ao técnico de ar-condicionado sobre mudanças climáticas. Não estou dizendo que seja necessariamente desinteressante ou incorrecto em si, mas vamos manter as coisas em perspectiva.”

Posteriormente a publicação do experimento de Amodei no sábado, Delangue se ofereceu para participar das possíveis soluções propostas pelo líder antrópico.

Entretanto, o CEO da Nvidia, Jensen Huang, também discutiu os comentários de Coxon em uma conferência organizada pelo banco de investimentos Goldman Sachs na semana passada, segundo várias pessoas do grupo disseram à BBC. Elas afirmaram que ele os descartou porquê falsos.

Huang já afirmou anteriormente que a teoria de que a IA “será o termo da humanidade” é “um completo contra-senso”.

E embora ele possa ter um interesse mercantil no boom da IA —a Nvidia fabrica chips que alimentam sistemas de perceptibilidade sintético—, seus comentários refletem uma crescente reação negativa no Vale do Silício aos alertas existenciais de funcionários atuais e antigos.

Outros críticos afirmam que a Anthropic tem tentado provocar uma pressão regulatória para bloquear a concorrência, deixando-a, juntamente com a OpenAI, com um duopólio (uma estrutura de mercado onde unicamente duas empresas dominam a oferta de um resultado ou serviço).

Segundo informações, a Anthropic está se preparando para uma oferta pública inicial (IPO) potencialmente recorde na bolsa de valores, uma medida que permitiria às pessoas comprar ações da empresa.

É esperado que a OpenAI, que recentemente foi avaliada em US$ 852 bilhões (R$ 4,3 trilhões), faça o mesmo.

No entanto, Altman, da OpenAI, afirmou na sexta-feira (11) que isso não aconteceria levante ano, classificando o momento porquê “imprudente” para tal, “oferecido tudo o que está acontecendo com a segurança”, em entrevista à revista Fortune. Ele sugeriu que 2027 seria mais provável.

Coxon disse que seus colegas temiam que o risco pudesse chegar já nos próximos dois anos.

Ele disse que os funcionários de empresas de IA estavam “planejando o que fazer com suas vidas e pensando nos impactos de seu trabalho”, enquanto alguns estavam “considerando comprar um terreno em qualquer lugar porque estão com muito pavor da instabilidade resultante do rápido progresso da IA”.

“Todos eles mantêm isso em mente diariamente enquanto trabalham com a tecnologia.”

Mas Coxon demonstrou evidente otimismo em relação ao horizonte da IA, declarando à BBC que as pessoas que pesquisam a tecnologia “realmente querem ver o lado positivo” de coisas porquê “resolver doenças e melhorar a vida de todos”.