Mais de 560 funcionários do Google assinaram uma epístola ensejo ao CEO Sundar Pichai pedindo que ele não permita que o governo dos Estados Unidos use sua tecnologia de IA (perceptibilidade sintético) em operações militares sigilosas.

“Queremos ver a IA beneficiar a humanidade, não sendo usada de formas desumanas ou extremamente prejudiciais”, dizia a epístola, que foi enviada a Pichai nesta segunda-feira (27). “Isso inclui armas autônomas letais e vigilância em volume, mas vai além.”

“A única forma de prometer que o Google não seja associado a tais danos é rejeitar qualquer trouxa de trabalho sigilosa”, continuava. “Caso contrário, tais usos podem ocorrer sem nosso conhecimento ou poder de impedi-los.”

As grandes empresas de tecnologia estão sob pressão para se posicionarem sobre o uso militar e de perceptibilidade de seus produtos de IA depois o embate entre o Pentágono e a startup de IA Anthropic.

O CEO da Anthropic, Dario Amodei, recusou-se a dar ao governo chegada irrestrito aos seus modelos. Ele insistiu em salvaguardas para impedir que recursos fossem usados em armas autônomas letais e vigilância doméstica em volume.

Em resposta, o governo classificou a Anthropic uma vez que risco à calabouço de suprimentos e o presidente Donald Trump ordenou que todos os departamentos governamentais parassem de usar o Claude, chatbot da empresa. A Anthropic contestou a classificação na Justiça.

Os funcionários da Alphabet estão reagindo a relatos de que o Google está perto de fechar um conciliação com o Departamento de Resguardo que permitirá que seu padrão Gemini seja usado em operações sigilosas sem as salvaguardas formais que a Anthropic exigiu.

Uma pessoa que atua na campanha diz que situação não envolve unicamente os militares, mas também a prenúncio da vigilância com IA para a liberdade social dos americanos, citando uma vez que a tecnologia é usada para estribar o autoritarismo na China.

Funcionários da DeepMind, o laboratório de IA do Google, coordenaram a epístola a Pichai, disseram duas das pessoas envolvidas. Dois quintos dos signatários trabalham na subdivisão de IA, com uma parcela semelhante na unidade de Cloud e o restante espalhado pela Alphabet.

Mais de 18 funcionários seniores —incluindo diretores principais, diretores e vice-presidentes— assinaram, disseram as fontes. Tapume de dois terços optaram por ser identificados, com o restante decidindo permanecer anônimo.

O cientista-chefe da DeepMind, Jeff Dean, tem sido o executivo mais vocal sobre o matéria até agora. Em fevereiro, ele postou no X que “A vigilância em volume viola a Quarta Emenda e tem um efeito inibidor sobre a liberdade de sentença”. Ele acrescentou que ainda apoia um compromisso de 2018 de banir armas autônomas letais.

O Google já enfrentou protestos anteriores contra seus vínculos militares. Em 2018, vários funcionários pediram deposição e milhares assinaram uma petição contra o Projeto Maven, que usava IA para melhorar ataques com drones. O Google não renovou o contrato e prometeu não trabalhar com IA para armas ou vigilância.

No entanto, no ano pretérito, a empresa abandonou discretamente essa posição em uma revisão de seus “Princípios de IA”. A atualização excluiu a promessa de não buscar “armas ou outras tecnologias do qual principal propósito ou implementação seja suscitar ou facilitar diretamente danos a pessoas”.

O cofundador Demis Hassabis justificou a decisão dizendo que o mundo mudou desde que o Google adquiriu a DeepMind em 2014. Múltiplos modelos de fronteira agora estão amplamente disponíveis e as empresas de tecnologia dos EUA têm o obrigação de ajudar o país a se tutorar.

Uma segunda pessoa que assina a epístola afirma que o grupo se inspirou no protesto anti-Maven e acrescenta que há quase consenso contra o programa na DeepMind.

A OpenAI enfrentou uma reação negativa de seus pesquisadores por fechar seu próprio conciliação com o governo logo depois a proibição da Anthropic. O CEO Sam Altman depois se desculpou, chamando suas ações de “oportunistas e descuidadas”.

“Tomar a decisão errada agora causaria danos irreparáveis à reputação, aos negócios e ao papel do Google no mundo”, conclui a epístola. “Sabemos por nossa própria história que nossos líderes podem fazer as escolhas certas, para nós mesmos e para o mundo, quando há muito em jogo.”