A lucidez sintético mudará nossas vidas de inúmeras maneiras: uma vez que os governos servem seus cidadãos; uma vez que dirigimos (e somos dirigidos); uma vez que administramos e, espera-se, guardamos nossas finanças; uma vez que os médicos diagnosticam e tratam doenças; até mesmo uma vez que meus alunos pesquisam e escrevem seus ensaios.
Mas quão revolucionária será a IA? Ela irá desequilibrar o poder global? Permitirá que as autocracias dominem o mundo? Tornará a guerra tão rápida e feroz que se tornará incontrolável? Em suma, a IA alterará fundamentalmente os ritmos dos debates mundiais?
É evidente que é cedo demais para expor definitivamente: Os efeitos da IA dependerão, em última instância, das decisões que líderes e nações tomarem, e a tecnologia às vezes toma rumos surpreendentes. Mas mesmo enquanto somos impressionados e preocupados com a próxima versão do ChatGPT, precisamos mourejar com seis questões mais profundas sobre os assuntos internacionais na era da IA. E precisamos considerar uma possibilidade surpreendente: talvez a IA não mude o mundo tanto quanto esperamos
.
1) A IA TORNARÁ A GUERRA INCONTROLÁVEL?
Considere uma certeza —que a lucidez sintético tornará o conflito mais mortífero e mais difícil de moderar. Analistas imaginam um horizonte em que máquinas possam pilotar caças com mais habilidade do que humanos, ciberataques habilitados por IA devastem redes inimigas, e algoritmos avançados acelerem a velocidade das decisões. Alguns alertam que a tomada de decisões automatizada poderia desencadear uma escalada rápida —até mesmo uma escalada nuclear— que deixaria os formuladores de políticas se perguntando o que aconteceu. Se planos de guerra e horários de trens causaram a Primeira Guerra Mundial, talvez a IA cause a Terceira Guerra Mundial.
Que a IA mudará a guerra é inegável. Desde possibilitar a manutenção preditiva de hardware até facilitar melhorias surpreendentes no direcionamento de precisão, as possibilidades são muitas. Um único F-35, liderando um enxame de drones semiautônomos, poderia empunhar o poder de queima de uma asa inteira de bombardeiros. Uma vez que concluiu a Percentagem de Segurança Vernáculo sobre Perceptibilidade Sintético em 2021, uma “novidade era de conflito” será dominada pelo lado que se apoderar de “novas formas de guerra”.
Não há, porém, zero fundamentalmente novo cá. A história da guerra ao longo dos séculos é uma em que a inovação regularmente torna o combate mais rápido e intenso. Portanto, pense duas vezes antes de admitir a teorema de que a IA tornará a escalada incontrolável.
Os EUA e a China discutiram um consonância para não automatizar seus processos de comando e controle nuclear —um compromisso que Washington fez independentemente— pelo simples motivo de que os estados têm fortes incentivos para não penetrar mão do controle sobre armas tal qual uso poderia colocar em transe sua própria sobrevivência. O comportamento da Rússia, incluindo o desenvolvimento de torpedos armados com armas nucleares que eventualmente poderiam operar autonomamente, é uma preocupação maior. Mas mesmo durante a Guerra Fria, quando Moscou construiu um sistema talhado a prometer a retaliação nuclear mesmo se sua liderança fosse eliminada, nunca desligou os controles humanos. Espere que as grandes potências de hoje explorem agressivamente as possibilidades militares que a IA apresenta —enquanto tentam manter as decisões mais críticas nas mãos humanas.
Na verdade, a IA poderia reduzir o risco de escalada vertiginosa, ajudando os tomadores de decisão a enxergar através da névoa da crise e da guerra. O Pentágono acredita que ferramentas de lucidez e estudo habilitadas por IA podem ajudar os humanos a filtrar informações confusas ou fragmentadas sobre os preparativos de guerra de um inimigo, ou mesmo se um temido ataque de míssil está de vestuário em curso. Isso não é ficção científica: A assistência da IA teria ajudado analistas de lucidez dos EUA a desenredar a invasão do presidente russo Vladimir Putin à Ucrânia em 2022.
Nesse sentido, a IA pode mitigar a incerteza e o terror que levam as pessoas a reações extremas. Ao fornecer aos formuladores de políticas uma compreensão maior dos eventos, a IA também pode melhorar sua capacidade de gerenciá-los.
2) A IA AJUDARÁ AUTOCRACIAS COMO A CHINA A CONTROLAR O MUNDO?
E quanto a um pesadelo relacionado —que a IA ajudará as forças da tirania a controlar o horizonte? Analistas uma vez que Yuval Noah Harari alertaram que a lucidez sintético reduzirá os custos e aumentará os retornos da repressão. Os serviços de lucidez equipados com IA precisarão de menos mão de obra para interpretar as vastas quantidades de informações que coletam sobre suas populações —permitindo-lhes, por exemplo, mapear precisamente e desmantelar impiedosamente redes de protesto. Eles usarão tecnologia de reconhecimento facial habilitada por IA para monitorar e controlar seus cidadãos, enquanto empregam desinformação criada por IA para desacreditar críticos em moradia e no exterior. Ao tornar a autocracia cada vez mais eficiente, a IA poderia permitir que os ditadores dominem a era que se inicia.
Isso é certamente o que a China espera. O governo do presidente Xi Jinping desenvolveu um sistema de “pontuação social” que utiliza lucidez sintético, reconhecimento facial e big data para prometer a confiabilidade de seus cidadãos —regulando seu chegada a tudo, desde empréstimos com juros baixos até passagens de avião. A vigilância onipresente assistida por IA transformou Xinjiang em um padrão distópico de repressão moderna.
Pequim pretende assumir as “alturas estratégicas de comando” da inovação porque acredita que a IA pode fortalecer seu sistema interno e seu poder militar. Está utilizando o poder do estado não liberal para direcionar numerário e talento para tecnologias avançadas.
No entanto, não é reservado que as autocracias sairão na frente.
Confiar que a IA favorece fundamentalmente a autocracia é confiar que alguns dos mais vitais e duradouros facilitadores da inovação —uma vez que fluxos abertos de informação e tolerância ao dissenso— já não são tão importantes. No entanto, a autocracia já está limitando o potencial da China.
Erigir modelos de linguagem grandes e poderosos requer enormes conjuntos de informações. Mas se esses inputs estiverem contaminados ou enviesados porque a internet da China é tão fortemente censurada, a qualidade dos outputs sofrerá. Um sistema cada vez mais repressor também terá dificuldade, ao longo do tempo, em atrair os melhores talentos: é significativo que 38% dos principais pesquisadores de IA nos EUA sejam originalmente da China. E a tecnologia inteligente ainda deve ser usada pelas instituições governamentais da China, que estão se tornando progressivamente menos inteligentes —ou seja, menos competentes tecnicamente— à medida que o sistema político se torna cada vez mais subserviente a um imperador vitalício.
A China será uma concorrente tecnológica formidável. Mas mesmo na era da IA, Xi e seus irmãos não liberais podem ter dificuldade em evadir do arrasto competitivo que a autocracia cria.
3) A IA FAVORECERÁ OS MELHORES OU OS DEMAIS?
Algumas tecnologias diminuem a vácuo entre as sociedades mais e menos avançadas tecnologicamente. Armas nucleares, por exemplo, permitem que países relativamente pequenos, uma vez que a Coreia do Setentrião, compensem as vantagens militares e econômicas de uma superpotência e seus aliados. Outras ampliam a repartição: no século XIX, rifles de repetição, metralhadoras e navios a vapor permitiram que as sociedades europeias subjugassem vastas áreas do mundo.
Em alguns aspectos, a IA empoderará os mais fracos. Autoridades dos EUA se preocupam que modelos de linguagem grandes possam ajudar terroristas com kits de ciência rudimentares a erigir armas biológicas. Estados rebeldes, uma vez que o Irã, podem usar a IA para coordenar enxames de drones contra navios de guerra dos EUA no Golfo Pérsico. De forma mais benigna, a IA poderia expandir o chegada a serviços básicos de saúde no Sul Global, gerando grandes retornos em aumento da expectativa de vida e produtividade econômica.
Em outros aspectos, no entanto, a IA será um jogo de ricos. Desenvolver IA de ponta é absurdamente dispendioso. Treinar grandes modelos de linguagem pode exigir investimentos maciços e chegada a uma quantidade finita de cientistas e engenheiros de ponta —sem mencionar quantidades impressionantes de eletricidade. Algumas estimativas colocam o dispêndio da infraestrutura que suporta o chatbot de IA da Microsoft Bing em US$ 4 bilhões. Quase qualquer um pode ser um usuário de IA —mas ser um instituidor requer recursos abundantes.
É por isso que as potências intermediárias que estão fazendo grandes avanços em IA, uma vez que Arábia Saudita e Emirados Árabes Unidos, têm bolsos muito fundos. Muitos dos primeiros líderes na corrida da IA são gigantes da tecnologia (Alphabet, Microsoft, Meta, IBM, Nvidia e outros) ou empresas com chegada ao seu numerário (OpenAI). E os EUA, com seu setor de tecnologia vibrante e muito financiado, ainda lideram o campo.
O que é verdadeiro no setor privado também pode ser verdadeiro no campo da guerra. No início, os benefícios militares das novas tecnologias podem fluir de forma desproporcional para países com orçamentos de resguardo generosos necessários para desenvolver e implantar novas capacidades em graduação.
Tudo isso pode mudar: Lideranças iniciais nem sempre se traduzem em vantagens duradouras. Novatos, sejam empresas ou países, já perturbaram outros campos antes. Por enquanto, no entanto, a IA pode fazer mais para substanciar do que revolucionar o estabilidade de poder.
4) A IA IRÁ FRATURAR OU FORTALECER COALIZÕES?
Uma vez que a lucidez sintético afeta o estabilidade de poder depende de uma vez que ela afeta as coalizões globais. Conforme analistas do Meio de Segurança e Tecnologias Emergentes da Universidade de Georgetown documentaram, os EUA e seus aliados podem superar em muito a China em gastos com tecnologias avançadas —mas exclusivamente se combinarem seus recursos. A melhor esperança de Pequim é que o mundo livre se divida em relação à IA.
Pode ocorrer. Washington preocupa-se que a abordagem emergente da Europa à regulamentação da IA generativa possa sufocar a inovação: Nesse sentido, a IA está destacando abordagens divergentes dos EUA e da Europa em relação a mercados e riscos. Outra democracia-chave, a Índia, prefere autonomia estratégica à alinhamento estratégico —tanto em tecnologia quanto em geopolítica, prefere seguir seu próprio caminho. Enquanto isso, alguns dos parceiros não democráticos de Washington, nomeadamente Arábia Saudita e Emirados Árabes Unidos, exploraram laços tecnológicos mais estreitos com Pequim.
Mas é prematuro concluir que a IA irá transformar fundamentalmente as alianças dos EUA. Em alguns casos, os EUA estão usando com sucesso essas alianças uma vez que ferramentas de competição tecnológica: Veja uma vez que Washington convenceu Japão e Holanda a limitar o chegada da China a semicondutores de subida qualidade. Os EUA também estão alavancando parcerias de segurança com Arábia Saudita e Emirados Árabes Unidos para impor limites em suas relações tecnológicas com Pequim, e para promover parcerias de IA entre empresas americanas e dos Emirados Árabes Unidos. Nesse sentido, alinhamentos geopolíticos estão moldando o desenvolvimento da IA, em vez do contrário.
Mais fundamentalmente, as preferências dos países em relação à IA estão relacionadas às suas preferências em relação à ordem doméstica e internacional. Portanto, quaisquer diferenças que os EUA e a Europa tenham podem ser insignificantes em conferência com seus medos compartilhados do que acontecerá se a China proceder para a supremacia. Europa e América podem, por termo, encontrar um caminho para uma maior alinhamento em questões de IA —assim uma vez que a hostilidade compartilhada ao poder dos EUA está levando China e Rússia a cooperar mais estreitamente nas aplicações militares da tecnologia hoje.
5) A IA IRÁ DOMAR OU INFLAMAR A RIVALIDADE ENTRE GRANDES POTÊNCIAS?
Muitas dessas questões estão relacionadas a uma vez que a IA afetará a intensidade da competição entre o Oeste liderado pelos EUA e as potências autocráticas lideradas pela China. Ninguém realmente sabe se a IA desenfreada poderia realmente ameaçar a humanidade. Mas riscos existenciais compartilhados às vezes fazem com que estranhos se unam.
Durante a Guerra Fria original, os EUA e a União Soviética cooperaram para gerenciar os perigos associados às armas nucleares. Durante a novidade Guerra Fria, talvez Washington e Pequim encontrem um propósito geral em impedir que a IA seja usada para propósitos malévolos, uma vez que bioterrorismo ou ameaçar países em ambos os lados das divisões geopolíticas atuais.
No entanto, a conformidade funciona nos dois sentidos, porque as armas nucleares também tornaram a Guerra Fria mais intensa e assustadora. Washington e Moscou tiveram que velejar por confrontos de superior risco, uma vez que a Crise dos Mísseis em Cuba e várias crises em Berlim, antes de uma firmeza precária se estabelecer. Hoje, o controle de armas de IA parece ser ainda mais reptador do que o controle de armas nucleares, porque o desenvolvimento de IA é tão difícil de monitorar e os benefícios da vantagem unilateral são tão tentadores. Portanto, mesmo que os EUA e a China iniciem um diálogo incipiente sobre IA, a tecnologia está acelerando sua competição.
A IA está no núcleo de uma guerra tecnológica sino-americana, à medida que a China usa métodos justos e sujos para aligeirar seu próprio desenvolvimento e os EUA implementam controles de exportação, restrições de investimento e outras medidas para bloquear o caminho de Pequim. Se a China não puder aligeirar seu progresso tecnológico, diz Xi, ela corre o risco de ser “estrangulada” por Washington.
A IA também está alimentando uma luta pela superioridade militar no Pacífico Ocidental: A Iniciativa Replicadora do Pentágono prevê o uso de milhares de drones habilitados por IA para exterminar uma frota de invasão chinesa em direção a Taiwan. Poderes rivais eventualmente encontrarão maneiras de cooperar, talvez tacitamente, sobre os perigos mútuos que a IA representa. Mas uma tecnologia transformadora intensificará muitos aspectos de sua rivalidade entre agora e logo.
6) A IA TORNARÁ O SETOR PRIVADO SUPERIOR AO PÚBLICO?
A IA, sem incerteza, mudará o estabilidade de influência entre os setores público e privado. As analogias entre a IA e as armas nucleares podem ser esclarecedoras, mas exclusivamente até visível ponto: a teoria de um Projeto Manhattan para a IA é enganosa porque é um campo onde o numerário, a inovação e o talento são encontrados predominantemente no setor privado.
As empresas na vanguarda da IA estão se tornando atores geopolíticos poderosos —e os governos sabem disso. Quando Elon Musk e outros especialistas defenderam uma moratória no desenvolvimento de modelos avançados de IA em 2023, Washington instou as empresas de tecnologia a não pararem —porque fazê-lo simplesmente ajudaria a China a entender os EUA. A política governamental pode aligeirar ou retardar a inovação. Mas em grande medida, as perspectivas estratégicas da América dependem das conquistas das empresas privadas.
É importante não levar esse argumento longe demais. A fusão civil-militar da China visa prometer que o estado possa direcionar e explorar a inovação do setor privado. Embora os EUA, uma vez que democracia, não possam realmente imitar essa abordagem, a concentração de grande poder nas empresas privadas trará uma resposta do governo.
Washington está participando, embora irresoluto, de um debate sobre a melhor forma de regular a IA para fomentar a inovação, ao mesmo tempo em que limita usos malignos e acidentes catastróficos. O braço longo do poder estatal está ativo de outras maneiras também: os EUA nunca permitiriam que investidores chineses comprassem as principais empresas de IA do país, e está restringindo o investimento americano nos setores de IA de estados adversários. E quando o Silicon Valley Bank, que detinha os depósitos de muitas empresas e investidores do setor de tecnologia, caminhava para a insolvência, preocupações geopolíticas ajudaram a iniciar um resgate do governo.
Também se espera, nos próximos anos, uma ênfase maior do governo em ajudar o Pentágono a estimular o desenvolvimento de tecnologias militarmente relevantes —e tornar mais fácil transformar a inovação do setor privado em armas vencedoras de guerra. Quanto mais estrategicamente relevante a IA for, menos dispostos os governos estarão a simplesmente deixar o mercado fazer seu trabalho.
Não podemos prever o horizonte: a IA pode chegar a um beco sem saída, ou pode aligeirar além das expectativas de qualquer pessoa. Outrossim, a tecnologia não é uma força autônoma. Seu desenvolvimento e efeitos serão moldados por decisões em Washington e ao volta do mundo.
Por enquanto, a chave é fazer as perguntas certas, porque isso nos ajuda a entender as apostas dessas decisões. Isso nos ajuda a imaginar os vários futuros que a IA poderia moldar. Não menos importante, ilustra que talvez a IA não cause um terremoto geopolítico por fim.
Certamente, há motivos para temer que a IA torne a guerra incontrolável, desequilibre o poder, frature as alianças dos EUA ou favoreça fundamentalmente as autocracias sobre as democracias. Mas também há boas razões para suspeitar que não o fará.
Isso não é para insuflar a complacência. Evitar resultados mais perigosos exigirá esforços enérgicos e escolhas inteligentes. De vestuário, o valor principal deste treino é mostrar que uma ampla gama de cenários é verosímil – e os piores não se fecharão simplesmente.
Se a IA favorece a autocracia ou a democracia depende, em segmento, de se os EUA adotam políticas de imigração esclarecidas que ajudam a reter talentos de superior nível. Se a IA reforça ou fratura as alianças dos EUA depende de se Washington trata essas alianças uma vez que ativos a serem protegidos ou uma vez que fardos a serem descartados. Se a IA mantém ou mina a jerarquia internacional existente, e o quanto ela muda a relação entre o setor privado e o estado, depende de quão sabiamente os EUA e outros países regulamentam seu desenvolvimento e uso.
O que não há incerteza é que a IA abre perspectivas inspiradoras e possibilidades terríveis. O objetivo da América deve ser inovar de forma implacável e responsável o suficiente para que a ordem mundial basicamente favorável não mude fundamentalmente —mesmo quando a tecnologia o fizer.
