Em um vídeo do TikTok, uma loira se filma com um grupo de mulheres em um autódromo. “Se você apoia Trump, acabou de fazer uma amiga”, diz ela.

Em outro vídeo, é uma morena, desta vez com um grupo em um estádio. “Se você apoia Trump, acabou de fazer uma amiga”, diz ela.

Em uma terceira postagem, uma ruiva está com um grupo em uma quadra de basquete. “Se você apoia Trump, acabou de fazer uma amiga”, diz ela.

Cada vídeo traz uma legenda idêntica e gramaticalmente estranha: “Sou novidade cá e senhor Deus, a América e Trump!!”

Todos são obra de perceptibilidade sintético.

Nos meses que antecedem as eleições de meio de procuração nos EUA, marcadas para novembro e que renovam o Legislativo do país, centenas de contas surgem nas redes sociais apresentando influenciadores pró-Trump gerados por IA, postando em ritmo veloz sobre a “esquerda radical” e a “América em Primeiro Lugar”. Elas tendem a manar porquê homens e mulheres comuns —em universal, muito bonitos—, olhando de forma sedutora para a câmera enquanto discorrem sobre a guerra no Irã, monstro ou Bad Bunny.

O presidente Donald Trump repostou teor de pelo menos uma dessas contas —um avatar loiro platinado fazendo acusações infundadas sobre o governador da Califórnia.

O The New York Times começou a rastrear postagens pró-Maga ({sigla} do slogan trumpista “Make America Great Again”) geradas por IA no TikTok, em janeiro, e descobriu pelo menos 304 contas compartilhando esse teor, algumas das quais já desapareceram.

Pesquisadores do Governance and Responsible AI Lab da Universidade Purdue, espargido porquê Grail, encontraram mais uma dúzia de contas no TikTok, Instagram e Facebook. Eric Nelson, comentador de investigações especiais da Alethea, uma empresa de mitigação de ameaças digitais, identificou outras nove contas no YouTube.

Várias contas já acumularam mais de 35 milénio seguidores. Algumas das postagens têm mais de 500 milénio visualizações. As contas analisadas pelo New York Times não estavam identificadas porquê geradas por IA.

Não está simples quem criou as contas de IA, e estabelecer se elas são resultado de teor contratado, uma operação de influência estrangeira, um experimento ou outra coisa é difícil, disseram especialistas. Todos concordam, no entanto, que produzir tais avatares está se tornando mais fácil, mormente para prestadores de serviços e empresas de marketing que agora se especializam em desenvolver e partilhar avatares de IA em tamanho por preços cada vez mais baixos.

O surgimento dos avatares políticos gerados por IA, disseram os pesquisadores, indica um esforço largo para fisgar eleitores conservadores, um público prestes pelo presidente e seu círculo para admitir memes, influenciadores, deepfakes e outras mensagens empacotadas digitalmente. Nem o New York Times nem os pesquisadores consultados encontraram redes semelhantes de tendência esquerdista.

O TikTok escreveu em transmitido que conduziu uma estudo cuidadosa das 304 contas e não encontrou “nenhuma indicação de operações de influência oculta”. A empresa concluiu, em vez disso, que as contas eram spammers tentando explorar engajamento —o que chamou de “uma ocorrência regular infeliz”. A plataforma informou ainda que estava em processo de remoção das contas.

Em anos eleitorais, a conversa política sempre aumenta na internet, em grande secção impulsionada por bots automatizados, trolls e outras contas inautênticas. Mas agora a IA está dando a esse submundo obscuro um novo rosto —enxames de novos rostos, na verdade, junto de vozes realistas.

Muitas das contas estão conectadas, com vários grupos compartilhando imagens e efeitos sonoros idênticos. Os mesmos personagens aparecem em várias contas: uma loira de tranças e vestido esvoaçante em uma herdade, uma mulher de blusa roxa sentada em uma cadeira de rodas, uma mulher negra com boné vermelho Maga e óculos aviador. Várias das contas se seguem mutuamente.

É difícil expor exatamente quando ou onde as contas foram criadas. Em quase todas elas, o primeiro vídeo foi postado no último ano. A maioria afirma ser de vários estados americanos, mas usa inglês truncado ou com erros gramaticais.

Trump é o “presidonte” predilecto delas, escreveram nas legendas, pedindo aos espectadores que sigam a conta. As biografias de pelo menos 13 delas apresentam a mensagem “Republicana&Orgulhosa De você apoia Trump me avisa [emoji de bandeira dos EUA] [emoji de coração preto] [emoji de coração branco] [emoji de coração azul] [emoji de bandeira dos EUA].”

O avatar de IA repostado por Trump, que tem mais de 51 milénio seguidores no TikTok, falava com um poderoso sotaque estrangeiro em suas duas primeiras postagens, em 15 de janeiro. No dia seguinte, ela adotou um sotaque americano.

Avatares de IA já promovem suplementos de bem-estar não comprovados, apresentam programas de notícias repletos de desinformação e dispensam conselhos médicos duvidosos.

Na política, a IA pode mudar de forma significativa a opinião dos eleitores. Um grande volume de postagens pró-Maga, misturadas com teor de criadores humanos em um feed de mídia social, poderia preparar o terreno para que os espectadores pensem de forma mais favorável sobre os republicanos e Trump —pulverização em vez de precisão, porquê disse um profissional.

“Eles estão tentando espalhar mensagens políticas e dar uma ilusão de consenso”, disse Andrew Yoon, membro da equipe técnica da CivAI, uma organização sem fins lucrativos que educa as pessoas sobre as capacidades e consequências da IA. “Inundar as redes cá com toneladas e toneladas de vídeos parece voltado a dar uma falsa sensação de opinião majoritária.”

Schiff, do Grail, disse que algumas das contas podem estar tentando atingir certos públicos fazendo pequenas mudanças nos avatares. O New York Times começou a rastrear uma conta no início de fevereiro, logo depois que ela começou a postar porquê um avatar mulato de olhos castanhos em um carruagem. Desde logo, a conta publicou 37 vídeos. O avatar se transformou seis vezes; seu cabelo ficou loiro, seus olhos ficaram azuis e assim por diante.

Embora a qualidade de algumas das contas beirasse o desleixo, e o engajamento possa estar inflado por atividade de bots, os pesquisadores disseram que os comentários nas postagens sugerem que muitos usuários acreditam que os avatares são pessoas reais.

A Meta informou que exige dos usuários, sob ameaço de penalidades, que divulguem quando postagens com teor fotorrealista são feitas ou editadas usando IA. No entanto, observou que teor gerado por IA pode ser difícil de identificar, mormente à medida que a tecnologia evolui.

O YouTube escreveu em transmitido que estava analisando os canais com avatares políticos de IA e estava encerrando aqueles que violavam as políticas da plataforma sobre spam e práticas enganosas.

Cada postagem apresentando os avatares pró-Trump provavelmente custa de US$ 1 a US$ 3, de convenção com Zuhair Lakhani, cofundador de uma startup de publicidade de IA chamada Doublespeed. A empresa, que opera bots alimentados por smartphones, gaba-se de que “uma pessoa agora pode orquestrar o que costumava exigir uma equipe de 30 criadores e US$ 40 milénio por 10% do dispêndio”.

Lakhani disse que a Doublespeed recusou trabalhar com campanhas políticas apesar de ter sido procurada por democratas, republicanos e partidos estrangeiros —uma recusa nascida de “uma questão de bússola moral”, explicou ele. No entanto, disse, “há muitas empresas por aí que estão aceitando esses contratos”. “E esses contratos são honestamente maiores e muito tentadores”.

O Comitê Pátrio Republicano não está envolvido nas contas, de convenção com Zach Parkinson, diretor de comunicações do grupo. Ele disse que as campanhas republicanas deveriam usar todas as ferramentas possíveis em suas disputas, incluindo perceptibilidade sintético, mas enfatizou que a tecnologia “não é uma projéctil de prata”.

“Zero substituirá uma mensagem vencedora ou um grande candidato no lado positivo, ou áudio e vídeo reais”, disse ele. “A autenticidade ainda reina.”