O incendido debate acerca dos riscos existenciais que a perceptibilidade sintético representa para o ser humano até cá não deteve a marcha dos robôs para a guerra real, dando materialidade a alguns aspectos do apocalipse propagandeado pelas big techs.

Nunca se investiu tanto em sistemas militares autônomos e infraestrutura de IA. Para permanecer com a maior potência da história, os Estados Unidos, zero menos do que murado de R$ 1 trilhão foi requisitado ao Congresso pelo governo Donald Trump para o setor no ano fiscal de 2027.

Trilhão. Não bilhão ou milhão, quase 10% do PIB do Brasil. O valor é 45% superior ao ratificado para o período anterior, que vai de outubro a setembro de cada ano. Só o chamado Grupo de Guerra Autônomo viu sua verba subir de R$ 1,1 bilhão para R$ 285 bilhões.

É esse moeda que Trump quer ver canalizado para uma corrida que os donos das grandes empresas da espaço, uma vez que a Anthropic e a OpenAI, têm vocalizado estar rápida demais. Para o presidente, isso é alarmismo de quem quer controlar processos.

Há também a questão do negócio em si. O Pentágono cancelou neste ano um conciliação de R$ 1 bilhão com a Anthropic, vetando o uso da IA Claude em seus sistemas. A empresas foi à Justiça, num caso ainda em curso.

Acerca dos riscos, na ponta de quem lida com o tópico os temores fazem secção da silabário. “Oficiais de moral são o porvir, no término você precisa colocar um humano no jogo. A tecnologia pode fazer o que quiser”, diz Peter Nilsson.

Ele é o dirigente da subdivisão de armas avançadas da Saab, a empresa sueca que fabrica o caça Gripen, adotado pelo Brasil. Nilsson conversou com jornalistas durante uma visitante à sede da firma em Linköping em junho.

A Saab é uma das líderes em inovação na espaço de resguardo. Uma versão do Gripen usou IA para controlar ângulos de manobras e soluções de disparo em junho do ano pretérito, em uma parceria com a alemã Helsing.

Foi a primeira vez que um caça simulou um ataque a longa intervalo contra outro avião, controlando o aparelho. A bordo estava o legendário piloto de testes Marcus Wandt, hoje dirigente da subdivisão de Aviação da Saab. “Eu vi ele [o agente de IA] fazer manobras que nunca tinha visto”, afirma.

Não é uma aspiração novidade. Os EUA testam há anos uma versão sem piloto do F-16, e a Marinha acaba de validar a compra de um drone semiautônomo da Boeing para ofício em porta-aviões.

Na França, a Dassault acaba de testar dois algoritmos de assistência ao piloto de seu caça Rafale, a partir de fusão de dados no pod Talios, da Thales.

Na Rússia, o avião de quinta geração Su-57 testa voo conjunto com o drone pesado Okhotnik, da mesma Sukhoi. Alguma coisa já deu inverídico em 2024, quando o caça teve de deprimir o robô sobre a Ucrânia ocupada depois ter perdido o controle, mas os detalhes são escassos.

Na China e, em menor graduação, na Índia e potências regionais uma vez que o Irã, Paquistão, Turquia e países do Golfo Pérsico, há programas diversos com os mesmos objetivos. A Coreia do Setentrião diz ter testado no primícias deste mês um míssil balístico que usa IA para manobrar rumo ao branco.

Até o Brasil tem reservados R$ 520 milhões para o Tropa mourejar com drones em 2027, restando saber se o moeda será liberado.

Mas a Saab foi um passo além e, neste ano, apresentou o projeto de seu drone, chamado ainda de A3-001, dissemelhante em concepção.

A teoria é que uma flotilha do aparelho, que será supersônico em oposição aos usualmente subsônicos modelos atuais, fique subordinada a um Gripen, preferencialmente o padrão F de dois lugares desenvolvido com o Brasil para liberar o piloto principal.

Só que, em vez de controlá-los, os aviadores somente dariam a ordem de ataque, deixando o sumo de liberdade de ação tática para os robôs. O truque para a manutenção do controle humano é manter travas específicas na programação das IAs.

“Se liberar, não tem uma vez que controlar o ‘loyal wingman’”, diz Wandt, em referência ao nome em inglês para parceiro leal, sobrenome no setor para esse tipo de drone. É evidente, porém, que todo esse zelo tende a se tornar inofensivo se a singularidade for atingida.

O jargão designa o momento em que a IA pensará sozinha, aprendendo em razão exponencial. Enquanto cientistas, governos e empresários debatem se estamos a poucos ou muito poucos anos (meses? semanas?) deste dia D, a automação já é veras no mundo dos combates.

Na Guerra da Ucrânia, ambos os lados empregam drones simples que escolhem alvos cada vez menos predeterminados nas linhas de frente, e os modelos de longa intervalo uma vez que o Gerânio-5 russo contam com sistemas que decidem qual o melhor caminho a seguir sozinhos quando perdem cobertura de satélite.

As águas do mar Preto são testemunhas desse progresso, com mais prejuízo a Moscou, dada a variedade de drones autônomos e semiautônomos de Kiev —inspirando iniciativas análogas uma vez que a anunciada recentemente pela Saab.

Até a primeira guerra naval entre robôs ocorreu em setembro. Pequenos blindados fazem as vezes de ambulância e soldados nas “zonas da morte” em que drones são onipresentes.

Mas é a singularidade que levou o debate ao nível de disputa global, com China e EUA polarizando a corrida. Sobram exemplos ficcionais sobre o momento: a Skynet que destrói o mundo em “O Exterminador do Porvir”, o computador de “2001”, até um “loyal wingman” rebelde no muito menor filme de ação “Stealth”.

Cá a balança pende mais para o lado de quem vê alarmismo na discussão atual.

Ainda que consiga, ao estilo do filme “Jogos de Guerra” (1983), sentenciar lançar mísseis nucleares prevendo uma retaliação que acabe com a humanidade, não há no horizonte um cenário no qual as pessoas sejam descartáveis para a existência dos robôs —da produção à manutenção, passando pelo manejo de fontes de vigor.

Por outro lado, se o proverbial robô sentenciar que quer se emancipar, pode fazê-lo atingindo infraestruturas críticas uma vez que usinas nucleares, redes elétricas ou represas de forma pontual. O estrago potencial é enorme de todo modo, uma vez que alertou nesta semana Bill Gates (Microsoft).

Esse é um risco mais palpável. Já é clássico o relato na Força Aérea dos EUA de uma vez que um agente de IA decidiu por conta matar o operador do seu drone porque ele atrapalhava a missão numa simulação. Ou o estudo em que Claude, ChatGPT e Gemini preferiram empregar armas nucleares a negociar o término de crises.

O problema óbvio é que isso é hoje. Com o investimento feito por governos e sua queda de braço com as big techs, o porvir é turvo. “A única certeza que temos é que lidamos com a incerteza”, resume de forma socrática o sueco Nilsson.