Pequim (China)

| Reuters
Um sistema de IA (lucidez sintético) que interfira na rede de comando nuclear ou lance uma operação do dedo militar pode deixar Washington ou Pequim com somente alguns minutos para deliberar se o outro governo foi o responsável pelo ataque, segundo especialistas em segurança dos EUA e da China.

Os especialistas, que participam de um diálogo entre os EUA e a China de quem trabalho contribui para orientar discussões oficiais, estão recomendando a ambos os governos para se prepararem para tais cenários, em meio a crescentes preocupações com sistemas cada vez mais poderosos e autônomos.

As propostas incluem limites rígidos em relação aos sistemas nucleares, controle humano sobre ataques digitais de grande impacto e uma traço direta para incidentes envolvendo IA autônoma.

As recomendações foram publicadas na semana passada, antes das negociações sobre IA planejadas em nível governamental e de uma reunião prevista para 24 de setembro em Washington entre o presidente dos Estados Unidos, Donald Trump, e o líder chinês, Xi Jinping.

Os autores Melanie Sisson, pesquisadora sênior do grupo de estudos Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança pátrio, organizado desde 2019 pela Brookings e pelo Núcleo de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As propostas mostram uma vez que a rivalidade entre EUA e China em material de IA está indo além da competição por chips e modelos avançados, abrangendo questões há muito associadas ao controle de armas: uma vez que evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de notícia para rivais com armas nucleares quando a tecnologia se comporta de maneira inesperada.

O ministro da segurança do Estado da China, Chen Yixin, escreveu esta semana em um veículo de notícia do governo que a IA “transforma fundamentalmente a forma da luta militar”. Ele afirmou que a IA passou de um papel coadjuvante no campo de guerra para um papel-chave, citando ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã.

LINHAS VERMELHAS

Sisson, da Brookings Institution, argumenta que os seres humanos devem manter a poder exclusiva para iniciar ataques digitais habilitados por IA contra os sistemas de comando, controle e notícia nucleares de outro país ou contra infraestruturas estrategicamente importantes.

Um sistema autônomo poderia apresentar falhas, ultrapassar suas instruções ou ser comprometido, enquanto o país sob ataque poderia ter dificuldade em honrar se a ação foi fortuito ou ordenada por seu rival.

Jiang, da Universidade de Fudan, propôs limites explícitos que impeçam a IA de deliberar de forma independente o uso de armas nucleares ou de testilhar autonomamente sistemas de comando nuclear, além de proteções em torno de infraestruturas críticas, incluindo virilidade, finanças e saúde.

Ele também defendeu uma definição geral de “controle humano significativo” para evitar que ambos os países utilizem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.

A teoria se baseia em um princípio endossado pelo logo presidente dos EUA, Joe Biden, e por Xi em novembro de 2024, segundo o qual os seres humanos devem manter o controle sobre as decisões de uso de armas nucleares.

Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Silêncio de Estocolmo, escreveu em fevereiro que esse era um importante ponto de convergência entre os EUA e a China, mesmo com ambos os países mostrando sinais de integrar a IA mais profundamente aos sistemas nucleares e relacionados à virilidade nuclear.

MÁQUINAS AGEM MAIS RÁPIDO

Jiang também propôs uma traço direta militar exclusiva entre os EUA e a China para incidentes envolvendo IA, alertando que as trocas digitais automatizadas poderiam se intensificar demais para permitir a mediação humana.

A IA defensiva de um país poderia responder maquinalmente a atividades suspeitas, enquanto o outro lado poderia interpretar essa resposta uma vez que um ataque e retaliar antes de entender o que realmente aconteceu.

Uma traço direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi fortuito, não autorizada ou ainda está sob investigação, antes que fosse tratada uma vez que uma ação estatal deliberada.

No entanto, especialistas, incluindo Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionaram a utilidade da traço direta de notícia para crises militares já existente entre os EUA e a China, citando a recusa de autoridades chinesas em atender às ligações de seus homólogos norte-americanos sobre o “incidente do balão espião” em fevereiro de 2023.

A rígida jerarquia de cima para grave da burocracia chinesa também impede que oficiais de grave escalão tomem a iniciativa durante interações com seus homólogos norte-americanos, escreveu ela em um cláusula para o Warn the Rocks em janeiro.

“Ninguém no sistema chinês quer se exprimir com os Estados Unidos até que a subida liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha resolvido sobre uma resposta, o que pode levar dias, se não mais”, disse ela.

OPINIÕES EM WASHINGTON E PEQUIM

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua, mas a China tem incorporado cada vez mais a IA à sua burocracia existente de controle de armas.

A IA é uma extensão de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, que também lida com armas nucleares, não proliferação, mísseis e outras questões de segurança internacional.

Shen Jian, mensageiro da China para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra, em junho, que a IA militar poderia afetar a firmeza estratégica e aumentar os riscos de erros de conta e escalada de conflitos, e que as armas deveriam permanecer sob controle humano. A China também argumenta que a segurança da IA não deve se tornar um pretexto para barreiras tecnológicas.

Washington não possui um órgão único equivalente para o controle de armas no contextura da IA e a política de segurança pátrio é distribuída entre o Juízo de Segurança Vernáculo da Morada Branca, o Departamento de Estado, o Pentágono e outras agências.

Ambos os governos continuam cautelosos em relação a medidas que possam retardar seu próprio desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam dar vantagem à China, enquanto Pequim vê muitos controles tecnológicos dos EUA uma vez que tentativas de preservar o domínio norte-americano.