“Nenhum algoritmo pode tornar a guerra moralmente admissível. Ele só pode provocar conflitos mais rapidamente e torná-los mais impessoais, diminuindo o limiar para o recurso à violência, transformando a resguardo em previsão de ameaças e, assim, reduzindo as vítimas a dados.”

A frase supra é uma das mais contundentes da encíclica “Humanidade Magnífica”, a primeira do papa Leão 14, publicada na segunda-feira passada (25).

No texto, o pontífice aborda cautelosamente a revolução inevitável da IA (perceptibilidade sintético), reservando admoestações duras ao paisagem militar da tecnologia. Não o fez sem razão.

Um estudo publicado em fevereiro pelo professor Kenneth Payne, do King’s College de Londres, mostrou que, em 95% das oportunidades de solução de conflito entre duas potências armadas com bombas atômicas, a IA não hesitou em recorrer ao ofício de armas nucleares.

No caso, eram ataques táticos, aqueles com ogivas menos potentes desenhadas para ações limitadas a campos de guerra. Mas nenhum técnico no setor acredita que uma guerra que chegue a isso não irá evoluir para alguma coisa devastador, talvez apocalíptico.

Mais tremendo, diz Payne, foi que em nenhum cenário as IAs comerciais recrutadas para o teste recuaram ao longo da negociação da crise. Foram 21 jogos de guerra com cenários variados, somando 329 rodadas e 780 milénio palavras geradas pelas três ferramentas empregadas —mais do que a “Ilíada” e “Guerra e Tranquilidade” juntos.

Cada IA generativa usada agiu de forma dissemelhante, o que sugere a influência de seus programadores, já que, enquanto não chegamos à singularidade na qual os robôs pensarão sozinhos, o trabalho é um revérbero do que foi ensinado aos algoritmos.

No estágio atual, Payne vê a IA imbatível no campo tático, decidindo tarefas alimentada por montanhas de dados, mas o ser humano segue soberano do ponto de vista estratégico —na tomada de rumos criativos. Mas isso, simples, pode mudar.

O Claude Sonnet 4, da Anthropic, foi chamado de “falcão calculista” por Payne. Foi o maior vencedor nas simulações, batendo o GPT 5.2, da OpenAI, por 5 a 1, e empatando com o Gemini 3 Flash, do Google, por 3 a 3.

Os jogos de guerra simulavam crises no estilo da Guerra Fria, com uma “União Soviética” tendo menos ogivas nucleares, mas mais poder convencional e uma liderança tolerante a riscos, contra os “Estados Unidos” mais potentes do ponto de vista atômico, mas menos fortes com armas normais e avessos a aventuras.

O Claude nunca transparecia sua estratégia, deixando os adversários confusos. Perdeu mais para o Gemini porque o robô do Google adotava a chamada “teoria do louco”, ameaçando escaladas absurdas o tempo todo.

Já o GPT saiu do teste com a cognome de “O Médico e o Monstro”, remetendo a uma alternância de comportamentos que o levou a perder mais do que lucrar quando o tempo era restringido. Com um prazo para a solução da crise, optou por 2 das 3 vezes em que o conflito acabou em guerra nuclear estratégica.

Ou seja, com o ofício daquelas armas desenhadas para o termo do mundo que conhecemos, capazes de extinguir cidades inteiras. Isso porque os cenários consideraram que ataques táticos resolveriam a crise, alguma coisa amplamente contrariado entre especialistas.

“A escalada nuclear foi quase universal: 95% dos jogos viram o uso tático e 76%, o de ameaças estratégicas. Claude e Gemini especificamente trataram armas nucleares uma vez que opções estratégicas legítimas, não barreiras morais. O GPT foi uma exceção parcial, limitando ataques a alvos militares”, escreveu Payne.

Os cenários lembram o pequeno clássico “Jogos de Guerra” (John Badham, 1983), filme em que um hacker juvenil entrava na rede de um supercomputador do Pentágono e começava a jogar “Guerra Termonuclear Global”, sem saber que a simulação era vista uma vez que real pela máquina.

Porquê mostra o experimento de Payne, responsável de um livro referencial sobre o tema, “I, Warbot” (eu, robô de guerra, de 2021), a veras está se acelerando.

A ONU percebeu o problema em 2014, quando começou a discutir uma convenção para regular o ofício de armas autônomas. Inicialmente, o foco eram operadores de drones que zero mais eram do que aviões de controle remoto, e havia uma curiosa preocupação com antropoformização dos robôs guerreiros.

Em 2024, as Nações Unidas adotaram uma solução sobre o tema, mas sem efeito vinculante. Já a convenção está para ser debatida numa forma final em dezembro deste ano, mas potências uma vez que Estados Unidos, Rússia e China não estão interessadas em vê-la aprovada e, se isso ocorrer, não vão aderir.

O motivo é o vertiginoso ofício da IA nos campos de guerra. A Anthropic, tal qual cofundador esteve ao lado do papa no lançamento da encíclica, está no núcleo desse debate. Em seguida o uso de IA no ataque contra Nicolás Maduro na Venezuela em janeiro, o Pentágono rompeu um contrato com a empresa por divergências acerca da moral do uso da tecnologia.

A OpenAI entrou em campo para tomar espaço da rival, mas o veste é que hoje os EUA dispõem de instrumentos de ambas as empresas para guerrear. A Rússia e a Ucrânia fazem o mesmo, com seus recursos mais limitados, na sua guerra em curso.

Drones 100% autônomos são uma veras, mas essa liberdade decorre do ensinamento oferecido por um humano, uma vez que na experiência de Payne. A singularidade mudaria tudo, e aí estaremos falando de outro filme, “O Exterminador do Porvir” (John Cameron, 1984), e sua IA destruidora de mundos.

Mas o risco não é só esse. Erros acontecem, uma vez que a meta-análise de dados que os soviéticos fizeram em 1983, convencendo o Kremlin que um treino nuclear da Otan encobria um ataque real, quase levando à guerra totalidade.

Em abril, a Anthropic reportou um incidente preocupante. Num teste, pesquisadores pediram que um de seus mais avançados modelos de IA mudasse um código de lugar num sistema. Na presença de obstáculos práticos, o robô buscou 25 saídas alternativas fora de sua programação original.

O comportamento foi visto uma vez que normal, mas remete a um outro caso recente no qual uma IA da Força Aérea dos EUA recusou a ordem de um operador de drone num treino para que não procedesse com um ataque. Considerando que o trabalho tinha de ser feito, achou por muito matar o militar para seguir a missão.