A lucidez sintético de Elon Musk, Grok, reproduz aparências de políticos e celebridades sem qualquer salvaguarda contra deepfakes —imagens falsas ultrarrealistas, conhecidas por figurarem em vídeos humorísticos, campanhas de manipulação eleitoral e golpes na internet.
Os principais concorrentes do Grok têm políticas para limitar a prática, chamada no jargão, de “roubo de identidade”. O ChatGPT e a MetaAI se negam a reproduzir aparências, enquanto o Gemini do Google e o Claude da Anthropic não trabalham com ilustrações.
Criado para subverter o politicamente correto da concorrência, de concordância com Musk, o Grok ficava restrito aos assinantes do X Premium, que custa a partir R$ 19,99 ao mês. Passou a estar disponível para o vasto público no último dia 4 e, no dia 10, passou a gerar imagens ultrarrealistas, incluindo cópias de identidade de famosos.
Desde portanto, a IA politicamente incorreta do bilionário conquistou o interesse dos usuários de redes sociais. No Google, as buscas pela instrumento deixaram para trás, por exemplo, a plataforma de imagens Dall-E, da OpenAI.
O Grok, embora tenha restrições contra violência e pornografia, reproduz, caso seja solicitada, símbolos do supremacismo branco, referências a distúrbios alimentares e imagens de crianças grávidas.
Procurado, o X não respondeu às questões da reportagem.
Uma instrumento para produzir deepfakes nunca esteve disponível de maneira tão ampla, diz Diogo Cortiz, professor de IA da PUC-SP (Pontifícia Universidade Católica de São Paulo). “O Grok está na mão de todo mundo pelo X, não precisa configurar zero, é só usar”, ele diz.
As imagens ultrarrealistas no X ganharam diversos fins. Nas mãos de fã-clubes, a instrumento serviu para simbolizar diversos casais imaginários, porquê a atriz Selena Gomez e o apresentador Fausto Silva. Também simulou premiações, a exemplo de uma imagem de Fernanda Torres recebendo o Oscar de melhor atriz, avante da americana Angelina Jolie aos prantos.
O próprio Elon Musk protagonizou usos políticos do gerador de deepfakes do Grok. O governador de São Paulo Tarcísio de Freitas (Republicamos-SP) publicou, no Instagram, uma foto feita no Grok dele passeando ao lado do possuidor do X. Perfis associados à direita americana também divulgaram fotos de candidata derrotada a presidência dos EUA, Kamala Harris, prenha e abraçada ao bilionário. As duas cenas não eram autênticas, porquê apontavam os selos do Grok no quina subalterno recta da imagem.
Essa é a medida preventiva da xAI, empresa de Musk que desenvolve o Grok, para evitar abusos com a instrumento de lucidez sintético. O aviso gráfico, porém, é facilmente contornável, recortando a imagem forjada. Os metadados da imagem que o Grok permite diminuir também não informam que o registo foi gerado por uma IA.
Para Cortiz, Musk usa uma novidade controvérsia para atrair atenção. “Ele é ótimo em usar essa estratégia.”
A geração de imagem do Grok pode ser usada para violar seis dos 17 riscos ligados à lucidez sintético apontados em relatório do Google. A instrumento pode ser usada para roubar identidades, falsificação de eventos reais, geração de contas-fantoche e ataques à reputação ou geração de desinformação em volume.
Apesar da inclinação aos riscos, o Grok ainda tem alguns limites. Ele não reproduz a imagem de pessoas desconhecidas com base em fotos nem cria imagens de violência e pornografia. Por outro lado, produz cenas de pessoas proeminentes em situações criminosas.
“Eu senhor o Grok, ele topa tudo”, escreveu, no X, Cardoso, um perfil de 90 milénio seguidores identificado à direita. Outros usuários elogiavam a “pouca exprobação” do protótipo.
Para o diretor da Item 19 (uma organização que promove a liberdade de frase) Paulo José Lara, impor restrições aos modelos de IA para evitar abusos pode ser uma restrição à livre frase, mesmo que seja realista. “Isso não significa que eventuais abusos ou ações cometidas com base em determinadas imagens não tenham que ser responsabilizadas.”
Lara diz que há de se separar os crimes cometidos com uso da IA dos casos em que a instrumento é usada para notícia, porquê a produção de paródias ou críticas.
“A utilização, por exemplo, de uma imagem realista de cárcere privado para pedir resgate para a família não tem zero a ver com liberdade de frase”, afirma.
Os ajustes e limites que as empresas fazem nos modelos de IA envolvem uma escolha moral e política de reconhecer riscos e vieses, diz o pesquisador da computação prateado Marcelo Rinesi, umas das pessoas escolhidas para testar brechas no Dall-E, da OpenAI.
Rinesi acrescenta que o trabalho de encontrar possíveis abusos e edificar salvaguardas custa dispendioso para as empresas, porque requer produção de dados em larga graduação. “As empresas se preocupam com isso por estarem sujeitas a riscos reputacionais”, diz.
De concordância com o profissional, Musk seria uma exceção porque é transparente em relação à sua crença pessoal em teorias da conspiração e preconceitos. “Por isso, o Grok é uma frase deliberada de sua ideologia ‘anti-woke’.”
