“Se você é uma mulher e já postou uma foto do seu rosto na internet, uma perceptibilidade sintético pode te deixar nua em segundos”, diz post no Instagram. O debate sobre os perigos da IA generativa e o machismo esquentou desde o início do ano, quando repercutiram denúncias sobre imagens explícitas geradas pelo Grok, instrumento de IA do X (ex-twitter), sem consentimento dos usuários –em próprio, mulheres e crianças.
Foi assim para a cantora Julie Yukari, que nos primeiros dias de 2026 descobriu que uma foto sua foi alterada depois um usuário comandar ao Grok que a retratasse com um microbiquíni. Ela disse ao #Hashtag que a plataforma se recusou a retirar doa ar a imagem, gerada sem consentimento, afirmando que o teor não violava suas diretrizes. Dias depois, sem explicação, a imagem foi removida.
Em 4 de janeiro, a deputada Erika Hilton (PSOL-SP) publicou em seu perfil na plataforma que entrou com uma denúncia contra a perceptibilidade sintético no Ministério Público Federalista e na Filial Vernáculo de Proteção de Dados.
Nesta quarta-feira (14), Elon Musk fez uma publicação em que responsabiliza usuários por pedirem que o Grok gere tais imagens. Segundo Fernanda Campagnucci, diretora do InternetLab, de contrato com a lei brasileira, as plataformas já devem ser responsabilizadas no caso de nudez não consentida. “Qualquer pessoa que sofra um tanto assim numa plataforma pode acionar o Judiciário e a rede pode ser responsabilizada ou corresponsabilizada. Termos de uso não podem se sobrepor à legislação e ao recta fundamental das pessoas”, diz, uma vez que no caso de Yukari.
Nesta quinta (15), a xAI comunicou que vai bloquear geograficamente usuários do Grok e do X para fabricar imagens de pessoas em roupas íntimas nas jurisdições onde essas ações são consideradas ilegais. O Reino Unificado e o estado da Califórnia abriram nesta semana investigações sobre o uso do Grok para geração de deepnudes. Malásia, Indonésia e Filipinas bloquearam completamente o chegada à instrumento.
Para Juliana Cunha, da SaferNet, os casos refletem o atual foco da plataforma em teor adulto, que segue diretrizes para atrair pessoas interessadas em pornografia. Dedicada à pesquisa “Uso Indevido de IA Generativa: Perspectiva Sobre Riscos e Danos Centradas nas Crianças”, a perito labareda atenção para o trajo de que inteligências artificiais são treinadas com pornografia, inclusive infantil.
“A dica básica é: se você tem uma moço, só publique imagens em que seu rosto não apareça e tome cuidados uma vez que manter um perfil privado”, diz. A dica não resolve os problemas, mas mitiga alguns riscos, alerta. “Zero impede que um seguidor use uma imagem para gerar pornografia do dedo”, diz.
Fernanda enfatiza a piora nos serviços das redes sociais em universal desde que se tornaram monopólios, uma vez que Instagram, WhatsApp e Facebook, da Meta. O mesmo ocorre desde que Elon Musk comprou o X, em 2022. Para ela, uma rede social com chatbot de IA marchetado, que facilita o chegada à geração de imagens, canseira imediatamente às pessoas que já estão na rede. Mas abordar o cimeira risco da tecnologia requer cautela. “É difícil falar em expatriação, pois sempre tem contexto e tipo de uso, por quem e por qual motivo está sendo usada”, diz. Em novembro de 2025, o InternetLab enviou à ONU um relatório temático, destacando os impactos das deepfakes para direitos de meninas e mulheres.
De contrato com ela, desenvolvedores de IA testam uma vez que treinar as ferramentas para não ensinar a cometer crimes ou erigir bombas, o que deve ser considerado para evitar seu uso com foco em nudez não consentida ou pornografia infantil. Só assim é provável estudar casos de forma isolada, não uma vez que uma ação sistematizada, diz.
Para ela, recomendar que mulheres não publiquem fotos online é sugerir que se afastem do espaço público e sejam silenciadas. “A única forma que vejo para que se protejam é escolher espaços online em que seus direitos ainda são mais respeitados”, diz. É preciso ênfase em políticas públicas, regulação e políticas das próprias plataformas.
“A prevenção é o que permite que as pessoas tomem consciência do problema e façam uso mais responsável das plataformas”, diz Juliana, que reforça: é preciso educar a população.
LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul inferior.
