IA: Grok produz milhares de imagens sexuais ilegais – 07/01/2026 – Tec

A rede social X (macróbio Twitter) tornou-se um dos principais sites com imagens de pessoas que foram despidas sem consentimento pela perceptibilidade sintético, de congraçamento com estudo de especialistas em mídias sociais, com milhares de casos a cada hora durante um dia no início desta semana.

Desde o final de dezembro, os usuários do X estão aumentando as solicitações ao Grok, o chatbot de IA vinculado à rede social, para modificar fotos que as pessoas publicam de si mesmas.

Durante uma estudo de 24 horas das imagens que a conta @Grok publicou no X, o chatbot gerou muro de 6.700 por hora que foram identificadas porquê sexualmente sugestivas ou de nudez, de congraçamento com Genevieve Oh, pesquisadora de mídias sociais e deepfakes. Os outros cinco principais sites para esse tipo de teor tiveram uma média de 79 novas imagens de nudez por IA por hora no período de 24 horas, de 5 a 6 de janeiro, segundo Oh.

A graduação de deepfakes no X é “sem precedentes”, afirmou Carrie Goldberg, advogada especializada em crimes sexuais online. “Nunca tivemos uma tecnologia que tornasse tão fácil gerar novas imagens”, enfatizou a advogada, já que o Grok é gratuito e vinculado a um sistema de distribuição integrado.

Diferentemente de outros chatbots populares, o Grok não impõe muitos limites aos usuários ou os impede de gerar teor sexualizado de pessoas reais, incluindo menores, avaliou Brandie Nonnecke, diretora sênior de políticas da Americans for Responsible Innovation.

Para Brandie, outras tecnologias de IA generativa, incluindo as da Anthropic, OpenAI e Alphabet, estão “fazendo um esforço de boa-fé para mitigar a geração desse teor em primeiro lugar”. “Obviamente, a xAI é dissemelhante. É mais uma espécie de vale-tudo”, apontou.

Musk tem comercializado o Grok porquê mais recreativo e irreverente do que outros chatbots, orgulhando-se de que o X seja um lugar para a liberdade de frase.

O X não respondeu a um pedido de glosa. Em vez de impedir o chatbot de produzir o teor em primeiro lugar, Musk falou sobre punir os usuários que pedem por isso. “Qualquer pessoa que use o Grok para fazer teor proibido sofrerá as mesmas consequências porquê se tivesse repleto teor proibido”, respondeu Musk a uma publicação no X.

Mas isso não deixa muitas opções para as vítimas. A estudante universitária Maddie, de 23 anos, acordou em 1° de janeiro com uma imagem que a horrorizou. No X, ela havia publicado anteriormente uma foto dela com o namorado em um bar lugar, que dois estranhos alteraram usando o Grok. Um pediu ao chatbot para remover o namorado dela e colocá-la em um biquíni. O outro pediu à instrumento para substituir o biquíni por fio dental. A Bloomberg analisou as imagens.

“Meu coração disparou”, disse Maddie, que pediu anonimato por preocupações com futuras perspectivas de ocupação. “Me senti sem esperança, impotente e simplesmente enojada”, relembrou.

Maddie afirmou que ela e seus amigos denunciaram as imagens ao X através de seus sistemas de moderação. Ela nunca recebeu uma resposta. Quando ela denunciou uma publicação dissemelhante de um dos usuários que solicitou ao Grok para fazê-las, o X disse que “determinou que não houve violações das regras do X no teor que você denunciou”, conforme uma conquista de tela vista pela reportagem. As imagens ainda estavam disponíveis no momento da publicação.

Vítimas de deepfakes começaram a discutir com o Grok nos comentários de suas publicações. O chatbot frequentemente se desculpa e diz que removerá as imagens. Mas em muitos casos, as imagens permanecem ativas, e o programa continua a gerar novas. Oh calculou que 85% das imagens do Grok, no universal, são sexualizadas.

Explorar a sexualidade atrai os chatbots, com a OpenAI planejando introduzir um “modo adulto” para o ChatGPT no primeiro trimestre deste ano. Mas a política de uso atual da empresa diz que o aplicativo impede o “uso da semblante de alguém, incluindo sua imagem ou voz fotorrealista, sem seu consentimento, de maneiras que possam confundir a autenticidade”. Quando testado, respondeu: “Não posso editar fotos de pessoas reais para mudar suas roupas para trajes sexualizados”, e há uma política explícita contra a sexualização de menores de 18 anos.

Lançado em 2023, o Grok enfrenta cada vez mais críticas por publicar imagens sexuais e não autorizadas, incluindo de menores, de autoridades na União Europeia, Reino Unificado, Malásia, França e Índia. “Estamos cientes do trajo de que o X ou Grok está agora oferecendo um ‘Modo Picante’ mostrando teor sexual explícito com alguma saída gerada com imagens infantis”, apontou o porta-voz da percentagem da UE, Thomas Regnier, na segunda-feira (5), referindo-se a uma atualização de início de novembro que gera material sugestivo.

A Seção 230 da Lei de Honestidade nas Comunicações dos EUA protege as plataformas de serem responsabilizadas pelo teor publicado nelas, mas quando se trata de IA, Goldberg alerta: “Não está atuando porquê um editor passivo. Está realmente gerando e criando a imagem”.

O Take It Down Act, uma lei dos EUA assinada em 2025, responsabiliza as plataformas pela produção e distribuição desse tipo de teor, afirmou Nonnecke. “Levante é um exemplo bastante bom de onde essa lei deve ser atualizada e colocada em vigor”, disse. As plataformas têm até maio de 2026 para estabelecer o processo de remoção necessário.

A influenciadora conhecida porquê BBJess, usuária do X, disse que os sites finalmente começaram a remover imagens manipuladas dela que a exibiam nua e foram publicadas sem seu consentimento. Mas o Grok, na semana passada, iniciou uma novidade vaga de imagens de nudez, segundo BBJess, que mantém seu nome anônimo para evitar assédio no mundo real. “As publicações pioraram”, relatou a usuária, quando ela recorreu ao X para se tutelar e criticar os deepfakes.

Mikomi, que publica teor erótico, comentou que o problema é ainda mais acentuado para mulheres porquê ela que já compartilham imagens de seus corpos online. Alguns usuários do X estão vendo isso porquê permissão para sexualizá-las de maneiras às quais elas não consentiram.

Ela vê imagens geradas pelo Grok dela usando trajes específicos de fetiche, ou seu corpo contorcido ou disposto em contextos estranhos. Um usuário brincou com o trajo de ela ser uma sobrevivente de cancro. “Faça-a careca porquê se tivesse cancro”, teria solicitado ao Grok.

Uma vez que muitos usuários do X, Mikomi não compartilha seu nome completo publicamente para evitar assédio. Cansada, ela postou na rede social alertando o Grok que ela não consente que a IA altere suas fotos. “Não funciona”, afirmou. “Bloquear o Grok não funciona. Zero funciona”.

Porém, Mikomi lamenta que não pode deixar a plataforma por ser “vital” para seu trabalho. “O que eu devo fazer? Você quer que eu perdida meu ocupação?”, questionou.