No ano pretérito, eu e minha esposa superamos as probabilidades da meia-idade e tivemos uma linda rapariga. Milhares de pessoas que me seguem no Instagram e em outros aplicativos ainda não perceberam. E não é porque eu saí de todos.
Somente optei por não publicar fotos da minha filha nas redes sociais, uma decisão que está se tornando cada vez mais popular por motivo da perceptibilidade sintético.
Os pais têm discutido os riscos e benefícios de publicar fotos de seus filhos na internet por décadas — desde o surgimento de sites de compartilhamento de fotos. Mas quando as redes sociais foram incorporadas ao tecido da sociedade, o “sharenting” (compartilhamento de informações sobre os filhos) tornou-se a norma.
Somente um 25% dos pais não compartilha fotos de seus filhos online devido a preocupações de que predadores online e empresas possam coletar seus dados pessoais, segundo estudos.
Mas pais uma vez que eu aderiram ao grupo dos que nunca postam por motivo de uma ameaço mais recente: aplicativos que podem gerar involuntariamente deepfakes de nudez com o rosto de qualquer pessoa usando perceptibilidade sintético generativa, a tecnologia que alimenta robôs uma vez que o ChatGPT.
Os chamados aplicativos “nudificadores” são simples e baratos para qualquer pessoa usar, com alguns até oferecendo testes gratuitos. Dei uma olhada em alguns deles.
Esses aplicativos estão sendo amplamente usados por estudantes, e, para as vítimas, ter nudes gerados artificialmente circulando por aí é tão traumatizante quanto seria se as fotos fossem reais.
Embora uma novidade lei federalista dos Estados Unidos torne delito postar nudes falsos não consensuais online, zero impede as pessoas de usar esses aplicativos, que proliferaram na internet. Dezenas desses sites estão arrecadando milhões de dólares por ano.
Além dos deepfakes de IA, existem mais riscos na postagem de fotos —uma vez que potencialmente expor informações pessoais sensíveis de jovens a pessoas mal-intencionadas— que podem desencorajar os pais.
Para ser evidente, publicar ou não fotos da família é uma escolha pessoal, logo oriente texto não é uma pena aos pais que postam. (Eu sabor de ver fotos dos filhos de outras pessoas nas redes sociais!) Em vez disso, que isso seja uma explicação sobre o que considerar ao postar fotos de crianças na internet.
A ASCENSÃO DOS DEEPFAKES
Nudes falsos de pessoas reais não são novidade. Por muitos anos, aplicativos de edição de fotos uma vez que o Adobe Photoshop podiam manipular fotos para gerar imagens de fisionomia realista.
No entanto, devido à quantidade de tempo e habilidade necessários para gerar falsificações convincentes, as vítimas tendiam a ser celebridades.
Os aplicativos nudificadores de IA mudaram o jogo. Os abusadores precisam unicamente visitar um dos sites e carregar uma imagem de sua vítima. Os nudificadores frequentemente aceitam pagamentos com cartão de crédito ou criptomoedas em troca de tokens virtuais para produzir nudes falsos.
A publicação de deepfakes foi recentemente considerada um delito federalista quando o presidente Donald Trump sancionou o Take It Down Act, um projeto de lei bipartidário combatendo a pornografia de vingança que incluía imagens de nudez não consensuais e falsificações geradas por IA.
Embora a legislação exija que os sites de redes sociais removam imagens ofensivas, ela não proíbe empresas de oferecer os próprios aplicativos geradores de imagens.
Redes sociais uma vez que Snap, TikTok e Meta proíbem a publicidade de nudificadores em seus aplicativos, e alguns estados estão começando a discutir legislação que proibiria empresas de oferecer aplicativos nudificadores. Mas se isso intercorrer, a fiscalização seria difícil porque muitos dos criadores de aplicativos estão no exterior.
Em outras palavras, qualquer pessoa ainda pode facilmente usar um aplicativo nudificador em uma moçoilo e manter as fotos, e ninguém saberia.
Um site que examinei oferecia um teste gratuito para despir digitalmente alguém em uma foto; a partir daí, os usuários podiam remunerar uma assinatura de US$ 49 por mês por 600 créditos, ou US$ 0,08 por nude falso. O aplicativo também permitia aos usuários gerar animações pornográficas.
Muitas pessoas estão subindo fotos nesses aplicativos nudificadores, que arrecadam aproximadamente US$ 36 milhões por ano em receita para as empresas que oferecem o software, segundo Alexios Mantzarlis, fundador da publicação de tecnologia Indicator que investigou 85 sites do tipo.
Embora novas leis possam dificultar que abusadores compartilhem deepfakes com outros, para muitas vítimas o dano já foi feito.
O que tudo isso significa para os pais é: abusadores poderiam reproduzir uma foto de uma moçoilo postada em sua conta de rede social e carregá-la em um aplicativo nudificador. Ou, se estiverem fisicamente próximos, poderiam usar uma câmera para tirar uma foto da moçoilo e depois carregá-la na instrumento.
Não há uma vez que impedir alguém de fazer o segundo caso, mas a primeira situação pode ser evitada optando por não publicar fotos de seus filhos na internet.
CONTAS PRIVADAS SÃO UMA SOLUÇÃO IMPERFEITA
Pais que desejam compartilhar fotos de seus filhos nas redes sociais podem reduzir significativamente o risco postando as fotos unicamente em uma conta que amigos próximos e familiares têm permissão para ver. Mas isso ainda tem limitações.
Os abusadores geralmente conhecem a vítima, logo um seguidor do Instagram com aproximação ao seu perfil poderia ser um culpado, disse Sarah Gardner, fundadora da Heat Initiative, um grupo de resguardo da segurança infantil.
“Só porque você tem uma conta privada não significa que alguém que você conhece não vá pegar suas fotos e fazer um pouco malicioso com elas”, disse ela.
ATÉ UMA FESTA DE ANIVERSÁRIO PODE EXPOR
Além dos deepfakes de IA, ainda existem ameaças tradicionais a considerar, uma vez que o roubo de identidade.
A sarau de natalício de uma moçoilo pode parecer um marco que vale a pena publicar nas redes sociais, mas até esse tipo de compartilhamento aparentemente inofensivo pode expor as crianças a danos futuros.
Fotos da sarau de natalício podem revelar o dia e o ano exatos em que a moçoilo nasceu, informações que podem ser combinadas com outros dados que hackers coletaram por meio de violações de segurança cibernética para cometer roubo de identidade, disse Leah Plunkett, autora de “Sharenthood”, um livro sobre compartilhamento de informações sobre crianças na internet.
Por mais improvável que isso possa parecer, o roubo de identidade envolvendo menores aumentou 40% de 2021 a 2024, com aproximadamente 1,1 milhão de crianças tendo suas identidades roubadas a cada ano, de entendimento com a Percentagem Federalista de Negócio.
POR QUE FAZEMOS ISSO?
Compartilhar alguns dados faz secção do contrato social da era do dedo. Compartilhamos nossa localização, por exemplo, para obter direções úteis de aplicativos de mapas. Para quaisquer pais contemplando se devem postar fotos de seus filhos, é um tirocínio útil perguntar: quais são os benefícios?
Aplicativos de redes sociais uma vez que Instagram, Snapchat e TikTok são ferramentas convenientes para compartilhar eficientemente fotos e vídeos agradáveis com um extenso grupo de pessoas com quem nos importamos.
Mas os verdadeiros beneficiários são as próprias empresas de redes sociais, que coletam dados para melhorar seus produtos para que possam fazer com que as pessoas, incluindo nossos filhos, continuem usando seus produtos.
Existem maneiras de menor risco para compartilhar fotos de nossos filhos. Meu método preposto é enviar fotos da minha filha para alguns amigos e parentes por meio de mensagens de texto, que são criptografadas.
Alguns pais compartilham álbuns de fotos de família com um pequeno grupo de pessoas usando serviços online uma vez que o iCloud da Apple e o Google Fotos.
No final, estou cônscio de que tudo isso pode ser uma guerra perdida. Muitas escolas postam crianças nas redes sociais para mostrar que seus alunos estão se divertindo. Provavelmente serei o pai repugnante exigindo que as fotos da minha filha sejam removidas.
Quando minha filha crescer, ela terá seu próprio celular e decidirá se quer postar suas fotos. Mas até esse dia chegar, farei o verosímil para manter as fotos dela fora da internet.
