Quando uma obreiro de joias infantis começou a anunciar no Instagram, ela divulgou fotos de uma moçoila de 5 anos usando um pingente luzente para usuários interessados em zelo parental, crianças, balé e outros tópicos identificados pela Meta porquê sendo atrativos para mulheres.
Mas quando a negociante recebeu os resultados automatizados de sua campanha de anúncios do Instagram, o oposto aconteceu: os anúncios foram direcionados quase que exclusivamente para homens adultos.
Perplexa e preocupada, a negociante entrou em contato com o The New York Times, que nos últimos anos publicou vários artigos sobre o desfeita de crianças em plataformas de redes sociais. Em fevereiro, o Times investigou contas do Instagram administradas por pais para suas jovens filhas, e o obscuro submundo de homens que tinham interações de cunho sexual com essas contas.
Com as fotos dos anúncios de joias em mãos, o Times procurou entender por que elas atraíram uma audiência indesejada. Anúncios de teste feitos pelo Times usando as mesmas fotos sem texto não unicamente replicaram a experiência da negociante —eles chamaram a atenção de agressores sexuais condenados e outros homens cujas contas indicavam interesse sexual por crianças.
O Times abriu duas contas no Instagram e promoveu postagens mostrando a moçoila de 5 anos, com o rosto virado para longe da câmera, usando uma regata e o pingente.
Postagens separadas mostravam as roupas e joias sem a padrão infantil, ou com uma caixa preta ocultando-a. Todos os anúncios pagos foram direcionados a pessoas interessadas em tópicos porquê puerícia, dança e cheerleading, que as ferramentas de público da Meta estimavam ser predominantemente mulheres.
Além de atingir uma proporção surpreendentemente grande de homens, os anúncios com crianças receberam respostas diretas de dezenas de usuários do Instagram, incluindo ligações telefônicas de dois acusados de agressão sexual, ofertas de pagamento à garoto por atos sexuais e declarações de paixão.
Os resultados sugerem que os algoritmos da plataforma desempenham um papel importante em direcionar homens para fotos de crianças. Eles também alertam para a prevalência de homens que usam o Instagram para seguir e contatar menores, incluindo aqueles que foram presos por usar redes sociais para solicitar sexo de crianças.
Na semana passada, o procurador-geral do Novo México (EUA), Raúl Torrez, anunciou a prisão de três homens pegos em uma operação de emboscada tentando marcar encontros sexuais com meninas menores de idade no Facebook. Chamada de “Operação MetaPhile”, Torrez disse que os algoritmos da Meta desempenharam um papel fundamental em direcionar esses homens aos perfis “isca” criados pela emprego da lei.
“Poderíamos fabricar uma conta disfarçada totalmente novidade, apresentada porquê uma garoto naquela plataforma, e provavelmente em questão de minutos, se não dias, essa garoto seria inundada com material sexualmente explícito”, disse ele, enfatizando o dano do mundo real que pode ser causado por plataformas online.
A investigação do Times em fevereiro descobriu que milhares de contas do Instagram administradas por pais atraíam comentários e mensagens sexualizadas de homens adultos. Enquanto alguns pais descreviam a atenção porquê uma forma de aumentar os seguidores de suas filhas, outros reclamavam de passar horas bloqueando usuários e diziam não entender porquê os homens haviam encontrado as contas.
Uma estudo dos usuários que interagiram com os anúncios postados pelo Times encontrou uma sobreposição entre esses dois mundos. Muro de três dezenas dos homens seguiam contas de influenciadores infantis administradas por pais e anteriormente estudadas pelo Times; um seguia 140. Outrossim, quase centena dos homens seguiam contas com pornografia adulta, o que é proibido pelas regras do Instagram.
Dani Lever, porta-voz da Meta, rejeitou os testes de anúncios do Times porquê uma “experiência fabricada” que não levou em conta “os muitos fatores que contribuem para quem vê um pregão no final das contas”, e sugeriu que era “falho e insensato” tirar conclusões a partir de dados limitados.
Ao ser questionado sobre as prisões no Novo México, a Meta disse em um enviado que “a exploração infantil é um transgressão horroroso e passamos anos desenvolvendo tecnologia para combatê-la”. A empresa descreveu seus esforços porquê “uma luta contínua” contra “criminosos determinados”.
‘Os homens engajam’
Pesquisadores e ex-funcionários que trabalharam com algoritmos na Meta, que é dona do Instagram e do Facebook, disseram que as ferramentas de classificação de imagens provavelmente mereciam secção da culpa.
As ferramentas comparam novas imagens com as existentes na plataforma e identificam usuários que mostraram interesse nelas anteriormente, disse Dean Eckles, ex-cientista de dados do Facebook que estudou seus algoritmos e agora é professor no Instituto de Tecnologia de Massachusetts.
Contas de teste criadas no ano pretérito pelo The Wall Street Journal descobriram que o algoritmo de recomendação do Instagram oferecia fotos sexualizadas de crianças e adultos para contas que seguiam unicamente jovens ginastas, cheerleaders e outras crianças.
Embora o sistema de anúncios da Meta não seja exatamente o mesmo que o sistema de recomendação, existem “grandes semelhanças entre os modelos”, disse Eckles.
Ex-funcionários da Meta familiarizados com seus sistemas de recomendação e entrega de anúncios disseram que as equipes de segurança tentavam identificar anúncios prejudiciais, porquê aqueles que promovem golpes ou drogas ilegais, mas era mais difícil identificar anúncios inofensivos que eram entregues a públicos inadequados —e potencialmente prejudiciais.
A Meta permite que os anunciantes segmentem determinados públicos por tópico. E, embora o Times tenha escolhido tópicos que a empresa estimava serem dominados por mulheres, os anúncios foram exibidos, em média, para homens muro de 80% do tempo, de convénio com uma estudo do Times dos dados de público do Instagram.
Em um grupo de testes, fotos mostrando a garoto foram para homens 95% das vezes, em média, enquanto fotos dos itens sozinhos foram para homens 64% do tempo.
Piotr Sapiezynski, pesquisador de pesquisa da Universidade Northeastern especializado em testar algoritmos online, disse que os anunciantes competiam entre si para conseguir mulheres, pois elas dominam os gastos dos consumidores nos Estados Unidos. Porquê resultado, Sapiezynski disse, o algoritmo provavelmente se concentrou em homens altamente interessados e mais fáceis de conseguir que haviam interagido com teor semelhante.
“Os homens engajam”, disse ele. “A máquina está fazendo exatamente o que você quer que ela faça.”
A Meta, em enviado, reconheceu o envolvente competitivo de anúncios para telespectadoras femininas e disse que a “baixa qualidade” dos anúncios do Times —de novas contas, com imagens mas sem texto ou explicação— contribuiu para que fossem entregues a mais homens. Outrossim, a Meta disse que seus dados de Insights de Público unicamente “mostram uma estimativa de quem é potencialmente elegível para ver um pregão”, não um público reservado.
Sapiezynski disse que mesmo que o sistema tenha nomeado os anúncios de teste porquê “baixa qualidade”, isso não explicava por que aqueles com crianças foram para mais homens do que aqueles sem crianças.
‘Oi, querida’
Algumas horas posteriormente o primeiro pregão ser postado, uma das contas de teste do Times recebeu uma mensagem e uma relação de um varão recluso em 2015 em Oklahoma posteriormente supostamente usar o Facebook para tentar marcar sexo em grupo com meninas de 12 e 14 anos.
“Oi, querida”, escreveu outro varão. Ele foi recluso em 2020 posteriormente entrar em contato com uma pequena de 14 anos no setentrião de Novidade York pelo Snapchat e oferecer-se para ir até sua vivenda e ter sexo. As acusações contra ele foram retiradas depois que um tribunal o considerou mentalmente incompetente.
Um terceiro varão, no Tennessee, que “curtiu” uma das fotos, tinha quatro condenações por crimes sexuais contra crianças —incluindo “sexo com uma garoto” em 1999, compartilhando uma foto no Facebook em 2018 de uma garoto de 3 a 5 anos “sendo penetrada anal ou vaginalmente” e usando o Instagram em 2020 para solicitar fotos nuas de uma moçoila de 12 anos a quem chamava de sua “escrava sexual”. (As regras do Instagram proíbem meninas de 12 anos.)
Um quarto varão, que o Times não conseguiu identificar, ofereceu-se para remunerar por atos sexuais com a moçoila na retrato.
O Times entrou em contato via chat do Instagram com qualquer pessoa que tenha interagido com os anúncios e explicou serem testes do algoritmo da plataforma realizados por jornalistas. O varão em Novidade York continuou a enviar mensagens para a pequena, perguntando se ela estava em seu quarto e se queria fazer sexo. Ele também tentou vincular para ela várias vezes pelo aplicativo.
No totalidade, o Times identificou quatro agressores sexuais condenados que haviam enviado mensagens para as contas, curtido as fotos ou deixado comentários nelas. Suas contas do Instagram usavam nomes e fotos reais, ou estavam vinculadas a contas do Facebook que usavam. As condenações foram encontradas ao cruzar essas informações com bancos de dados de agressores sexuais e outros registros públicos.
Cinco outros homens, incluindo um que publicou um vídeo no Instagram de uma moçoila conhecida por ser vítima de desfeita sexual infantil, segundo o Meio Canadense de Proteção à Garoto, têm antecedentes de prisão envolvendo crimes contra crianças. Os homens cujos registros judiciais o Times conseguiu rever confessaram-se culpados de uma delação menor ou foram considerados mentalmente incapazes para serem julgados.
As regras do Instagram proíbem que agressores sexuais condenados tenham contas, e o Times usou a instrumento da Meta para denunciar os homens. As contas permaneceram online por muro de uma semana até que o Times as sinalizasse para um porta-voz da empresa.
Questionado sobre as contas, Lever disse: “Proibimos que agressores sexuais condenados tenham presença em nossas plataformas e removemos as contas que nos foram relatadas.”
Um dos homens, que foi sentenciado em Novidade York por agredir sexualmente uma moçoila de 4 anos, está sujeito a uma lei estadual —conhecida porquê E-Stop— que exige que agressores sexuais registrem seu endereço de email. Todas as semanas, o estado compartilha os endereços com empresas de tecnologia, incluindo a Meta.
Lever não abordou porquê a empresa usa essas informações ou porquê o varão conseguiu fabricar uma conta no Instagram.
Alguns dos homens disseram que responderam ao pregão por preocupação.
Um varão, que está em liberdade condicional posteriormente passar 46 anos na prisão na Califórnia por chacinar sua esposa, disse que ficou surpreso ao se deparar com uma moçoila de 5 anos em seu feed, que predominantemente mostra fotos de adultos escassamente vestidos ou nus.
“Não tenho problema em olhar para mulheres nuas, mormente depois de 46 anos na prisão”, escreveu. Mas, continuou, “minha atitude em relação às pessoas que se envolvem em pornografia infantil ou tocam em uma garoto é muito simples: não façam isso.”
O envolvimento dos homens com os anúncios não surpreendeu alguns pequenos empresários entrevistados pelo Times. Morgan Koontz, fundadora da Bella & Omi, uma empresa de roupas infantis em West Virginia que se promove nas redes sociais, disse que a empresa recebeu “comentários inapropriados, quase pedófilos, pervertidos” de homens quando começaram a anunciar no Facebook em 2021.
“Isso deixou nós e nossas modelos desconfortáveis”, disse ela.
Quando a empresa expandiu para o Instagram, ela e sua sócia, Erica Barrios, decidiram evitar o problema direcionando unicamente para mulheres, mesmo que pais e avôs estejam entre seus clientes regulares.
Lindsey Rowse, proprietária da Tightspot Dancewear Center na Pensilvânia, também restringe seus anúncios a mulheres. Quando não excluía os homens, ela disse que eles compunham até 75% de seu público, e poucos compravam seus produtos. Separadamente, ela limita com que frequência compartilha fotos de modelos infantis em suas postagens não publicitárias porque costumam atrair homens, disse ela.
“Não sei porquê as pessoas encontram isso”, disse ela. “Eu adoraria unicamente bloquear todos os caras.”
Outros proprietários de empresas expressaram confusão semelhante sobre porquê seus anúncios eram distribuídos. Desde janeiro, a empresa de roupas infantis Young Days, com sede em Utah, viu mais que vergar a parcela de homens alcançados por seus anúncios sem grandes mudanças em seus critérios de segmentação, segundo Brian Bergman, responsável pelo negócio eletrônico. A mudança em direção aos homens prejudicou as vendas, disse ele, e a empresa desde portanto se concentrou em conseguir mulheres.
“Não é um negócio lucrativo para nós, mas o algoritmo continua nos direcionando para os homens”, disse ele.
