O fundador da equipe de confiança e segurança do Google pediu nesta semana uma desaceleração no desenvolvimento da IA (inteligência artificial), diante dos riscos que o avanço da tecnologia pode representar para crianças. Ele alertou que o setor de tecnologia está repetindo os mesmos erros cometidos na era das redes sociais, potencialmente causando danos ainda maiores aos jovens.

Empresas de redes sociais estão pagando grandes quantias e enfrentando milhares de processos judiciais sob acusações de terem prejudicado usuários jovens, enquanto governos de todo o mundo trabalham para restringir o acesso de menores às suas plataformas.

No ano pretérito, a Reuters revelou com exclusividade um documento interno de políticas da Meta que afirmava que seus chatbots poderiam “envolver uma rapaz em conversas românticas ou sensuais”, o que resultou em uma investigação no Congresso dos Estados Unidos. Ainda assim, a regulamentação não acompanhou o ritmo rápido do desenvolvimento da IA.

“Estamos em uma situação realmente terrível em relação ao que a IA está fazendo com as crianças”, disse à Reuters na segunda-feira (21) Tom Siegel, ex-vice-presidente de crédito e segurança do Google. “A teoria de que o setor vai resolver isso sozinho, sem ajuda externa, é irrealista.”

As preocupações de Siegel refletem um temor crescente entre alguns profissionais do setor de tecnologia e pesquisadores acadêmicos de que a IA represente uma ameaço mais profunda às crianças do que as redes sociais, em um momento em que as empresas correm para somar recursos cada vez mais avançados a chatbots usados diariamente por milhões de jovens.

Siegel anunciou nesta terça-feira (22) que havia se juntado à Common Sense Media, organização que atua na resguardo de crianças no envolvente do dedo. A entidade sem fins lucrativos, criada em 2003, realiza pesquisas e avaliações sobre a adequação de diferentes tipos de mídia para crianças. Em maio, lançou o Youth AI Safety Institute (Instituto de Segurança em IA para Jovens, em tradução livre), organização de pesquisa voltada a calcular o uso de IA por crianças, da qual Siegel será o primeiro diretor-executivo.

Anthropic e OpenAI Foundation, organização sem fins lucrativos que controla a OpenAI, estão entre os financiadores do instituto.

Siegel disse que pretende desenvolver padrões para responsabilizar empresas de IA e espera fazer isso em parceria com essas companhias e organizações independentes.

Ele trabalhou no Google entre 2004 e 2019, mas deixou a empresa depois de concluir que o setor de tecnologia estava “estagnado” em sua capacidade de fabricar ambientes on-line seguros para os consumidores. Em seguida, foi cofundador da TrustLab, uma startup que desenvolveu ferramentas para ajudar empresas a detectar ameaças à segurança, antes de deixar o incumbência de CEO no início deste mês para assumir a novidade função.

Segundo Siegel, grandes empresas de IA estão disponibilizando recursos para crianças sem estabelecer proteções suficientes.

“Acho que estamos diante de cenários de danos muito, muito graves”, afirmou.

Ele disse que as empresas poderiam adotar medidas imediatas para proteger melhor os jovens, citando riscos que vão de suicídio e psicose à chamada “descarga cognitiva”, termo usado para descrever a redução da capacidade de pensamento crítico provocada pela submissão da IA para obter respostas.

Anthropic e OpenAI poderiam adotar mecanismos mais rigorosos de verificação de idade para impedir que crianças inferior da idade permitida acessem seus chatbots, afirmou. Seu macróbio empregador, o Google, também poderia implementar facilmente uma opção para desativar o AI Overviews e o AI Mode em seu mecanismo de procura, acrescentou, da mesma forma que já oferece uma utensílio para filtrar teor sexualmente explícito.

Embora essas medidas possam afetar o uso dos serviços ou os lucros no pequeno prazo, empresas de IA que não agirem correrão o risco de enfrentar processos judiciais e regulamentações que podem afetar seus negócios de maneira mais significativa, acrescentou Siegel.

Questionado sobre os comentários de Siegel, um porta-voz do Google afirmou que os pais têm controles para desativar completamente o chegada de uma rapaz ao mecanismo de procura.

Um porta-voz da OpenAI afirmou que a empresa utiliza “sinais relacionados à conta e ao comportamento”, além da idade declarada pelo próprio usuário, para identificar usuários menores de idade.

A Anthropic não respondeu a reportagem.

Na Common Sense Media, Siegel disse que uma de suas prioridades será ampliar padrões independentes semelhantes aos testes de colisão realizados com automóveis, que mediriam os riscos de ferramentas de IA disponíveis ao público.

A eficiência da iniciativa dependerá, em secção, da disposição das empresas de IA em colaborar. Siegel disse não ter certeza de que isso ocorrerá, mas afirmou que a possibilidade é suficientemente subida para que ele tenha aceitado o incumbência.