Financial Times
Os robôs vão nos matar? Difícil manifestar. Porquê sabiamente observou o Dude, em O Grande Lebowski, “uma porção de entradas, uma porção de saídas, uma porção de sei lá o quê. E, hum, um monte de coisas para manter na cabeça, rostro”.

Mas, se manter todas essas coisas na cabeça é complicado, por que não simplesmente inventar um número e chamá-lo de P(doom)? O termo —abreviatura de “verosimilhança de ruína”— tornou-se repentinamente generalidade. Há algumas semanas, Evan Hubinger, pesquisador sênior de segurança de IA da Anthropic, escreveu no X: “Nós realmente acreditamos, sinceramente, que a IA poderia matar todos os humanos! Eu pessoalmente acho que a verosimilhança é superior a 10% na próxima dezena”.

Não está simples por que esse tuíte específico causou tanta repercussão. Talvez pelo momento, depois do inquietante ataque aos servidores da Hugging Face realizado com o auxílio de um protótipo de linguagem de grande porte. Talvez pelo ponto de exclamação quase eufórico. Certamente não é a primeira vez que preocupações desse tipo são expressas por pessoas de dentro do setor de IA. Geoffrey Hinton, pioneiro das redes neurais e ganhador do Nobel, deixou o Google em 2023, citando sua idade, mas também alertando que a tecnologia estava se tornando cada vez mais perigosa. Em entrevista recente à BBC, Hinton sugeriu que um P(doom) de 10% “não seria irracional”, mas acrescentou que “ninguém sabe realmente porquê fazer uma estimativa sensata”.

Pois é. Porquê seria uma estimativa sensata?

Escrevi recentemente sobre o trabalho de Philip Tetlock na dimensão de previsões. Tetlock percebeu desde cedo que muitos especialistas em prognósticos são extremamente vagos e raramente são cobrados por seus erros. “A economia da Ruritânia pode em breve enfrentar uma crise cambial” parece uma profecia bastante autoritária, mas qual é a definição de crise cambial e o nosso vidente tem qualquer prazo específico em mente?

A solução de Tetlock tinha duas partes: primeiro, limitar a previsão a uma medida objetiva; segundo, estabelecer um prazo e esperar. Se a previsão for a morte de todos os seres humanos, “estabelecer um prazo e esperar” não é uma estratégia inteiramente satisfatória.

Tetlock, sempre disposto a explorar as fronteiras das previsões, participa de um novo projeto, o AIRO (Perspectiva Automatizada de Riscos de IA), no qual especialistas em previsões de IA estimam a verosimilhança de a tecnologia provocar diferentes desastres —desde uma perda de 1 bilhão de libras (R$ 6,86 bilhões) ou de 1.000 vidas até a morte de 10% da população mundial. Uma vantagem dessa abordagem é que perdas menores —de verba ou de vidas— podem ser observadas, e talvez possam nos manifestar um tanto sobre riscos maiores.

Por aquilo que vale, os especialistas em previsão de IA não preveem nosso termo iminente. Eles estimam em menos de 0,5% a chance de a IA matar muro de 1 bilhão de pessoas até 2030 e em menos de 5% até 2050.

A verosimilhança de uma catástrofe causada por qualquer motivo —armas nucleares, vírus, colisões de asteroides, escolha o que quiser— é de 8,5% até 2050. Você pode ou não considerar isso tranquilizador.

O que essas previsões pretendem conseguir? Previsões têm várias funções. A mais generalidade é a conversa fiada —manifestar que o Arsenal vai lucrar a Liga dos Campeões ou que Kemi Badenoch vai perder a liderança do Partido Conservador pode servir porquê ponto de partida para uma conversa. Parece mais inteligente do que falar sobre o tempo. É uma espécie de comida ultraprocessada cognitiva, viciante, mas pouco nutritiva.

Outro motivo generalidade para fazer uma previsão é invocar atenção. Os vendedores de IA certamente conseguiram isso, desviando nosso foco de outros riscos. Lembra quando uma guerra nuclear era um tanto com que valia a pena se preocupar? Terrorismo? Fascismo? Colapso financeiro? Mudança climática? Uma pandemia mortal? Os riscos mais perigosos são aqueles aos quais você deixa de prestar atenção porque está ocupado demais se preocupando com outra coisa.

Previsões também são uma boa maneira de aumentar a própria reputação, mormente quando se concretizam —embora isso não seja principal. No início do século 20, Roger Babson, um dos primeiros especialistas em previsões econômicas, era fascinado por Isaac Newton e acreditava que as ideias newtonianas poderiam ser adaptadas para fazer previsões econômicas. As previsões baseadas em Newton não funcionaram muito muito, mas o que funcionou para Babson foi anunciar intensamente as previsões que tiveram mais sucesso.

O livro Prophecy (2026), de Carissa Véliz, oferece um exemplo de uma profecia que chamou atenção e acabou se transformando em outra coisa: uma estratégia de sobrevivência. O astrólogo da namoro do rei Luís 16 previu que uma das damas da namoro morreria em uma semana —e ela morreu. Isso foi preciso demais para o paladar de Luís: parecia provável que o adivinho fosse um malfeitor ou tivesse de indumentária poderes de previsão, e nenhuma das duas opções parecia confortável. Luís decidiu mandar o varão executar, mas antes, em uma prova de humor preto real, convidou o astrólogo a prever sua própria morte.

“Vou morrer três dias antes de Vossa Majestade”, respondeu o astrólogo, salvando habilmente a própria pele. É um lembrete contundente de que profecias raramente são exclusivamente tentativas sinceras de prever o porvir e, às vezes, nem sequer são tentativas de prever o porvir.

Uma previsão não precisa ser exclusivamente conversa fiada, nem uma tentativa de invocar atenção ou treinar influência. Às vezes, previsões realmente são feitas para nos ajudar a tomar decisões melhores. Um envolvente rico em dados pode permitir previsões úteis até mesmo de sistemas complexos, seja no trânsito ou no clima. Defina os parâmetros, aperte o botão, receba a previsão e aja de convénio com ela.

Ainda assim, em muitos casos, uma previsão precisa é ao mesmo tempo improvável e insuficiente. Em seu livro clássico Planejamento por Cenários: A Arte da Conversação Estratégica (1996), Kees van der Heijden conta que se encontrou com planejadores estratégicos de “uma grande empresa do setor de computadores de grande porte”. Eles haviam elaborado cuidadosamente previsões para a demanda global por capacidade computacional, expressa em milhões de instruções por segundo. O que haviam deixado de fazer era pensar seriamente sobre a forma que essa capacidade computacional poderia assumir nas décadas de 1980 e 1990.

A previsão numérica da demanda por computação poderia estar perfeitamente correta, mas isso não bastaria para que a empresa tomasse decisões estratégicas melhores. A conversa realmente necessária deveria ser sobre se essa capacidade computacional alimentaria os tradicionais computadores de grande porte fornecidos pela empresa —ou laptops e consoles de videogame. De que serve uma previsão precisa se ela não consegue alertá-lo sobre porquê será o porvir? Eles deveriam ter jogado fora seus gráficos e contratado um plumitivo de ficção científica.

O que nos traz de volta ao P(doom). Há conversas sérias a serem travadas sobre porquê regulamentar a IA, porquê se proteger contra alguns danos previsíveis —porquê o risco para os empregos ou a explosão da desinformação— e, sim, porquê impedir que a IA consiga matar todo mundo no planeta. Minha incerteza é se a troca ritual de estimativas de P(doom) é uma boa maneira de iniciar essas conversas ou uma boa maneira de evitá-las.