O X, de Elon Musk, terá que indenizar uma mulher por ter deixado um deepnude, foto de nudez falsa gerada por perceptibilidade sintético, com sua imagem no ar por mais de dois meses.
“Por desculpa da decisão favorável em primeira instância, gostaríamos que fosse precedente para esse tipo de situação”, disse a cartunista Heloísa D’Angelo, em conversa com a Folha, na sexta-feira (23). Neste início de ano, uma IA integrada ao X, o Grok, gerou milhões de imagens falsas de mulheres e menores nus ou seminus, de convénio com levantamento do New York Times.
A divulgação de imagens de nudez sem consentimento e para fins de exposição vexatória configura o transgressão de pornografia de vingança, com pena prevista de 1 a 5 anos. A punição ainda pode ser majorada pelo uso de tecnologia porquê IA. O X foi responsabilizado civilmente por não agir contra a publicação ilícita.
A plataforma recorre contra o valor da indenização de R$ 56.480 e pede nulidade da petição inicial, alegando a carência no texto do link a ser removido. O endereço consta de boletim de ocorrência incluso.
O transgressão contra a cartunista, que é mais conhecida por Helô, ocorreu em setembro de 2024, quando o ministro do STF (Supremo Tribunal Federalista) Alexandre de Moraes suspendeu a plataforma no país.
Ela recebeu a informação de que fora intuito de um transgressão sexual na internet de uma conhecida que vive no exterior, que reportou a ilegalidade ao X, que zero fez. A conta @MA7TER_YI pegou fotos que a própria quadrinista tinha publicado nas redes sociais e usou a tecnologia para fazer versões em que ela aparecia sem roupa.
“Ele pegou uma selfie que eu fiz com o ministro da Ensino [Camilo Santana] e criou uma versão em que o ministro continua vestido e eu apareço sem roupa”, descreveu.
No início de setembro de 2024, a quadrinista não conseguia acessar a plataforma do Brasil, menos ainda denunciar as publicações. Por isso, buscou a delegacia para registrar boletim de ocorrência. Porquê nunca houve investigação policial, a pessoa por trás da conta @MA7TER_YI não foi identificada.
Ela recorda que teve dificuldade até para registrar a denúncia. “Na delegacia da mulher, disseram que só atendiam casos de violência doméstica; na de crimes cibernéticos, só golpe do Pix; em uma terceira que me indicaram por supostamente ter mais preparo, não sabiam nem o que era deepfake.”
Helô foi atendida na quarta tentativa, na delegacia especializada em pedofilia, por onde já haviam chegado as primeiras denúncias de deepnudes em escolas. “O escrivão registrou, mas me disse para não ter esperança, porque existiam muitos casos na fileira.”
O caminho para a reparação foi buscar a Justiça Social e pedir a responsabilização social da empresa de Musk. Ainda antes de o STF (Supremo Tribunal Federalista) mudar seu entendimento sobre o marco social da internet, as empresas já podiam ser punidas por não retirar do ar teor criminoso citado em um rol de exceções, que incluía pornografia de vingança e racismo.
A rede social só removeu a publicação depois de uma cautelar expedida no termo de novembro de 2024.
Em julho de 2025, o juiz Raphael Ernane Neves decidiu em prol da quadrinista em primeira instância e condenou o X a remunerar uma indenização de R$ 56.480.
A empresa de Musk recorre, e um novo julgamento está marcado para fevereiro. Os advogados da plataforma dizem, nos autos, que o teor já foi retirado do ar e reclamam do valor definido na desculpa. “Equivale ao rendimento de um ano todo de uma pessoa que recebe R$ 4.700,00, ou seja, de um ano de trabalho de uma pessoa que recebe mais do que a média vernáculo.”
A quadrinista disse que depois do incidente deixou de usar o X, onde tinha 30 milénio seguidores e, até portanto, utilizava para publicar seu trabalho. Parou também de publicar fotos pessoais suas nas redes sociais. “Era alguma coisa que a comunidade que eu construí gostava: de ver minhas viagens e os congressos que eu frequentava.”
De convénio com o Marco Social da Internet, em casos em que não se retira teor criminoso, a plataforma é responsável, ainda antes de o STF mudar o entendimento sobre responsabilidade das plataformas por ilícitos na internet no ano pretérito.
Desde portanto, a galanteio criou o obrigação de zelo, segundo o qual as plataformas precisam “adotar todas as providências necessárias para evitar a circulação massiva de crimes principalmente graves, porquê os praticados contra mulheres em razão da requisito do sexo feminino e os praticados contra crianças”.
O dispositivo foi citado pela ANPD (Domínio Vernáculo Proteção de Dados), na recomendação para que o X implemente um via de denúncias sobre a divulgação de imagens sintéticas sexualizadas e acelere a remoção de teor ilícito.
Para o jurisconsulto Rony Vainzof, sócio do escritório VLK advogados, é preciso responsabilizar criminalmente quem produza pornografia de vingança com IA. “Não basta controlar a tecnologia, as pessoas precisam entender que gerar esse tipo de teor tem consequências graves.”
As plataformas são obrigadas a manter os dados de quem faz cada publicação, porquê o IP de entrada (espécie de identidade da internet) por seis meses, o que permite que as autoridades encontrem o responsável.
No caso de Helô, o X já pode ter descartado as evidências.
“Nós só seguimos no processo porque, quando tivemos uma audiência de conciliação, a empresa não cedeu em zero: não quis fazer convénio, nem reparação financeira, nem compartilhar os dados do responsável da postagem”, lembra a quadrinista. “Essa conta tinha feito a mesma coisa com muitas outras pessoas.”
