Os usuários do YouTube podem, agora, denunciar casos de roubo de identidade com lucidez sintético. A técnica, chamada de deepfake, já foi usada em fraudes financeiras, disseminação de imagens íntimas falsas (incluindo de menores de idade) e desinformação eleitoral.
A plataforma de vídeo mais popular do Brasil, com muro de 120 milhões de acessos mensais, disponibiliza um formulário para receber queixas sobre deepfakes desde março, mas não divulgou a atualização ao público. O site especializado TechCrunch noticiou a existência do recurso nesta segunda-feira (1º).
Em um exemplo do estrago que podem suscitar as deepfakes, circularam no YouTube em maio clones gerados virtualmente do apresentador da TV Mundo Marcos Mion e do cantor Thiaguinho. As cópias protagonizavam anúncios falsos do Mercado Livre, usados em golpes —a suposta oferta era de smartphones com 80% de desconto.
A reprodução de imagem e voz na internet está entre os principais riscos aventados depois o vinda da lucidez sintético (IA), na avaliação de políticos, empresas e pesquisadores. Tramita no Congresso um projeto de lei para aumentar a pena de quem usar IA para gerar imagens íntimas de mulheres e crianças, e a Justiça Eleitoral vetou as deepfake durante as eleições de 2024.
O YouTube classificou deepfakes que deturpem a imagem da pessoa clonada uma vez que “uma violação de intimidade”, o que é passível de pedido de remoção de teor na plataforma. Só a vítima pode protocolar a queixa.
A pesquisadora do DFRLab (Laboratório de Judicial Do dedo), do Atlantic Council, Beatriz Farrugia alerta que nem toda montagem baseada na imagem de um terceiro pode ser considerada deepfake ou constituir uma violação de intimidade.
“Uma deepfake é a manipulação de um teor, seja ele áudio, vídeo ou foto, através de uma utensílio de lucidez sintético”, diz. “Cada vez que a IA recebe maior quantidade de dados, fica quase imperceptível que aquele resultado foi gerado por lucidez sintético”, acrescenta a profissional.
Circulam também na internet outras montagens mais grosseiras, chamadas de cheapfakes, segundo Farrugia. “Qualquer um com um computador ou celular e um Photoshop pode colocar o rosto de outra pessoa no seu corpo e fazer uma montagem.”
Embora seja difícil detectar deepfakes mais sofisticadas, segundo a pesquisadora, é verosímil procurar sinais uma vez que distorções ao volta de boca, nariz e olhos no caso de imagens, e uma qualidade prejudicada no caso dos áudios. “Nos vídeos, uma dessincronia do movimento da boca na imagem com a fala é sempre uma pista.”
Áudios sintéticos são mais fáceis de produzir e mais difíceis de detectar, na avaliação de Farrugia, e, por isso, se disseminam em anúncios falsos e em campanhas de desinformação.
Nas suas normas, o YouTube abre uma exceção para deepfakes feitas em contexto de sátira ou sátira, uma vez que faz, por exemplo, o humorista Bruno Sartori. A Justiça de São Paulo também entendeu que o deepfake de Ricardo Nunes no corpo de Ken, divulgado pela pré-candidata a Prefeitura de São Paulo Tabata Amaral, era uma sátira.
A profissional em investigação do dedo recomenda que as vítimas desses golpes documentem todo o processo de roubo de identidade e procure as plataformas pelas quais o material falso circula e as autoridades responsáveis. “No caso de imagens, é verosímil fazer buscas reversas no Google para ver se aquele teor também circula em outros espaços da internet.”
VEJA COMO FAZER A DENÚNCIA
A pessoa pode protocolar a queixa neste formulário de processo para denúncia de violação de privacidade, a partir dos seguintes passos:
-
Preencha o formulário com informações pessoais, uma vez que nome, país de residência e email de contato
-
Informe se está preenchendo o formulário em nome de outra pessoa
-
Informe quantas entidades ou canais quer denunciar
-
Indique se o que está simulando rosto ou voz é um conduto, vídeo ou observação
-
Conte detalhes de uma vez que sua imagem ou voz passaram por alterações com o uso de IA
-
A vítima, portanto, precisa descrever uma vez que aparece no vídeo, para diferenciá-la dos outros personagens do teor
Farrugia, do DFRLab, recomenda as plataformas de detecção de deepfakes Sentinel, DuckDukGoose e WeVerify, para verificar se houve uso de IA no roubo de identidade. Essas perícias podem substanciar o argumento na denúncia.
O YouTube também dá instruções para que a denúncia tenha mais chances de ser acatada:
-
A denúncia deve ser clara e concisa
-
Ter informações objetivas, uma vez que momento no vídeo em que o clone feito por IA aparece
-
Dar detalhes do que pode diferenciar o deepfake da pessoa real
-
Ter certeza de incluir a URL do vídeo na denúncia
-
Se estiver denunciando todo um conduto, não é necessário incluir URL
-
Se estiver denunciando um observação na seção própria no vídeo, aponte isso na descrição. Adicione também o nome do usuário no campo indicado
A plataforma de vídeo usa uma vez que fatores de avaliação da denúncia:
-
Se o teor é modificado ou sintético
-
Se o teor é descrito à audiência uma vez que modificado ou sintético
-
Se a vítima pode ser identificada pela imagem
-
Se o teor é realístico
-
Se o teor é de paródia, sátira ou tenha interesse público
-
Se o teor use a imagem de pessoas públicas ou muito conhecidas em situações polêmicas, uma vez que atividades criminais, violentas ou endossos a produtos ou candidatos
O YouTube alerta que o uso incorreto das denúncias pode levar à suspensão da conta do denunciante.
Afirma que tampouco compartilha o nome e as informações de contato do denunciante com o publicador da deepfake sem a permissão do responsável da queixa.
O YouTube não aceita denúncias feitas em nome de terceiros, a não ser que:
-
A pessoa cuja privacidade foi violada não tenha chegada à internet ou a computadores
-
O tipo cuja a privacidade foi violada esteja em situação de vulnerabilidade
-
A alegado seja feita pelos pais ou pelos responsáveis de um menor de idade cuja privacidade foi violada
-
A alegado seja feita pelo representante lítico da pessoa (alguém que tenha procuração)
-
O pedido seja feito por um parente próximo de alguém em grave situação de saúde
“Não vamos concordar pedidos feitos por parentes, colegas de trabalho, empregadores e empresas”, diz a página de regras da plataforma de vídeo.
