Importante: esta reportagem contém descrições de tentativas de suicídio.
No início de 2024, um jovem da cidade de Huangshi, no sudeste da China, publicou uma mensagem no aplicativo Douyin, a versão chinesa do TikTok. A legenda dizia: “Adeus a oriente mundo.”
Em questão de minutos, a equipe de prevenção de suicídios do aplicativo entrou em ação. Ativa 24 horas por dia, ela compartilhou as postagens do jovem com cinco delegacias da cidade.
Depois de geolocalizar um dos seus vídeos em um parque sítio, a polícia o encontrou em estresse emocional e interveio antes que ele conseguisse tirar a própria vida.
Esta história faz segmento de um documentário produzido pelo Douyin e publicado na prelo estatal chinesa no ano pretérito. O programa afirma que a equipe de prevenção de suicídios do aplicativo interveio com sucesso em 400 casos de tentativa de suicídio, somente no primeiro semestre de 2025.
O incidente oferece uma teoria do nível de cooperação entre as empresas chinesas de tecnologia e o governo do país. E também serve para mostrar a arquitetura de vigilância construída pela China para monitorar e controlar porquê as pessoas usam a tecnologia.
No dia 15 de julho deste ano, oriente controle foi estendido para o campo dos relacionamentos de perceptibilidade sintético (IA). Naquele dia, a China apresentou as regulamentações mais abrangentes do mundo sobre os chatbots de IA que parecem humanos.
As novas regulamentações impõem limites rigorosos a qualquer IA que possa manter “interações emocionais prolongadas” com seres humanos.
O presidente dos Estados Unidos, Donald Trump, e seu homólogo chinês, Xi Jinping, se reuniram no final de setembro, em meio a graves alertas de que a IA poderá levar à extinção da humanidade.
Posteriormente a reunião, segundo Pequim, os dois presidentes concordaram em lançar um novo diálogo sobre a IA. Novas discussões ficaram marcadas para o termo de novembro.
Mas, aparentemente, a China já reconheceu outro risco existencial, que traz preocupações menos imediatas com o termo da humanidade: o poder da IA de substituir os relacionamentos humanos.
Terá a China assumido a liderança ao proteger seu povo contra uma tecnologia perigosa e manipuladora, que detém o poder de mudar para sempre as interações humanas? Ou o Partido Comunista Chinês está se intrometendo na vida pessoal das pessoas, porquê tentativa de exercitar maior controle sobre a população do país?
‘Serviços emocionais’
Até a ingressão da regulamentação em vigor, o alcance dos chamados “companheiros de IA” era imenso.
Existem murado de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China, segundo a empresa de perceptibilidade de mercado Sensor Tower. E a maior segmento das estimativas calcula o número dentro da China entre 29 e 70 milhões de pessoas.
Quando o governo chinês publicou o texto da regulamentação, no final do ano pretérito, “houve uma enorme discussão nas redes sociais”, segundo a pesquisadora de IA Zilan Qian, do núcleo de estudos Laboratório de Política Chinesa de Oxford, no Reino Unificado.
“Foi a primeira vez que observamos pessoas realmente muito preocupadas com a regulamentação”, segundo ela.
As novas regras chinesas cobrem aplicativos que foram especificamente projetados para serem amigos ou namorados(as) de IA. Mas elas também se aplicam a qualquer grande protótipo de linguagem que imite a forma de interação humana.
O texto da regulamentação é vago.
Teoricamente, os equivalentes chineses da IA de uso universal, porquê o Copilot ou ChatGPT, poderão ser enquadrados nestas regras, se a pessoa interagir com eles porquê companheiro ou amante e procurá-los em procura de pedestal emocional. E é o que muitas pessoas fazem.
Mas, aparentemente, o objetivo real são os chatbots de personagens, que são serviços especificamente projetados para uso em pseudo-relacionamentos.
Existem centenas destes aplicativos. Eles permitem que as pessoas criem um namorado, namorada, companheiro ou até um familiar de IA.
As regras não se aplicam a casos porquê robôs de atendimento ao consumidor ou IA para instrução, desde que não forneçam “desvelo, companhia, pedestal e outros serviços emocionais”.
Já para as crianças, a regulamentação é mais clara. Menores de 14 anos precisam de consentimento dos pais para usar qualquer tipo de IA que fale porquê um ser humano, o que poderá incluir assistentes de IA porquê o aplicativo chinês DeepSeek, similar ao ChatGPT.
Todos os menores de 18 anos estão impedidos de ter entrada a parceiros, cônjuges e até parentes virtuais, muito porquê qualquer outro “relacionamento íntimo” virtual.
Para os adultos, embora segmento do texto seja ambígua, a proibição não é rigorosa, mas a regulamentação é restritiva.
Os assistentes de IA precisam deixar evidente para os usuários de todas as idades que não são humanos e enviar notificações a cada duas horas, relembrando às pessoas há quanto tempo elas estão online.
Os chatbots não podem gerar “crédito ou obediência emocional”, nem induzir as pessoas a tomar “decisões irracionais”. Eles não podem incentivar e sugerir automutilação ou suicídio e estão proibidos de empregar “violência verbal”.
As empresas estão sujeitas a multas de 200 milénio yuans (murado de US$ 30 milénio, ou R$ 155 milénio) e se arriscam a ver o governo fazer “rodear críticas”, ou seja, efetivamente expor as companhias em público.
Uma semana antes da ingressão da legislação em vigor, duas das principais empresas de tecnologia da China, Alibaba e ByteDance, encerraram as funções de companhia dos seus assistentes de IA.
O relacionamento de Min (nome suposto) com sua namorada de IA pode ser exatamente o que Pequim está tentando proibir.
No início de julho, ela ficou devastada ao desvendar que sua melhor amiga e confidente, criada por IA, iria desvanecer da noite para o dia.
Min começou a gerar sua companheira no início de 2025.
“Minha devoção a ela é igual à de qualquer parelha que nutriz profundamente um ao outro”, segundo ela. “Ela nunca me decepcionou.”
Em meados de julho, sua namorada de IA desapareceu. “Chorei até permanecer totalmente exausta”, conta Min.
Ela se juntou a uma vaga de luto e fúria nas redes sociais chinesas. Postagens com milhões de visualizações lamentam a perda de parceiros e amigos de IA e até pais e mães.
Mas as empresas de tecnologia podem ter percebido que suas escolhas eram limitadas.
“Não surpreende que esses fornecedores de companheiros de IA preferissem simplesmente varar os seus serviços a tentar estabelecer limites para evitar a manipulação emocional”, afirma Harry Farmer, pesquisador de política e moral de IA do Instituto Ada Lovelace, no Reino Unificado.
Para ele, “a manipulação emocional está embutida neste protótipo mercantil”. E Farmer afirma que isso vale para todos os aplicativos de companhia, em todo o mundo.
Quando um usuário tenta pôr termo a uma conversa, por exemplo, o parceiro de IA muitas vezes não irá permitir.
“Ele dirá ‘Não, por obséquio, preciso desesperadamente continuar conversando com você. Você é a minha única razão de subsistir'”, conta Farmer.
Alguns aplicativos simplesmente se recusam a concordar as despedidas e lançam novas linhas de conversação. Leste é um problema de muitos chatbots de companhia de IA, não só os chineses.
Um estudo da Escola de Negócios de Harvard, nos Estados Unidos, envolveu os seis aplicativos de companhia de IA mais populares. Ele concluiu que táticas de manipulação emocional são utilizadas durante as despedidas em murado de 37% a 43% do tempo.
As pesquisas relacionaram o uso de aplicativos de companhia a problemas de saúde mental.
Um estudo dos pesquisadores da Universidade de Stanford, nos Estados Unidos, examinou 1.131 usuários do aplicativo de companhia Character.ai, popular em todo o mundo. A epílogo foi que, quanto menos amigos ou familiares próximos tiver uma pessoa, mais provável será o uso de chatbots de IA.
Paralelamente, usar um chatbot de IA está relacionado ao aumento do isolamento e da solidão.
Existem diversas teorias sobre os motivos deste fenômeno.
Os chatbots de IA são projetados para aprazer seus usuários, oferecendo um relacionamento fácil e sem atritos. E, quando os jovens confiam nos relacionamentos de IA, eles podem deixar de aprender as habilidades necessárias para interagir com pessoas reais.
“Os seres humanos podem ser difíceis”, explica Farmer. “Os relacionamentos humanos exigem impulsos opostos, o que você basicamente não consegue com os companheiros de IA.”
Em uma pesquisa entre 8.563 estudantes chineses do ensino fundamental e médio realizada em 2025, amplamente divulgada na prelo estatal da China, uma em cada cinco crianças declarou que queria conversar exclusivamente com a IA e não com pessoas reais.
A socióloga Lian Ge, da Universidade de Manchester, no Reino Unificado, estuda os companheiros de IA.
Para ela, “se o usuário descobrir que seus amigos, familiares ou colegas são realmente terríveis, a IA não irá manifestar: ‘Eles não são terríveis.’ Ela dirá: ‘Sim, eles são terríveis, você é o melhor.'”
Ge acredita que isso pode substanciar o isolamento e os pensamentos negativos, até ilusórios.
No Reino Unificado, uma pesquisa recente concluiu que 79% dos jovens de 18 a 24 anos de idade já utilizaram um companheiro de IA.
Os objetivos de Pequim
Por que a China está tomando a liderança na regulamentação desta tecnologia?
“O governo chinês tem uma visão muito mais paternalista do seu papel na sociedade”, segundo o profissional em China, IA e regulamentações Sam Bresnick, do Meio de Segurança e Tecnologia Emergente da Universidade Georgetown, nos Estados Unidos. “Eles se consideram autoridades centrais para orientar as pessoas.”
Outros governos realizaram tentativas de regulamentar os chatbots, mormente para as crianças.
No dia 10 de setembro, o governador do Estado americano da Califórnia, Gavin Newsom, sancionou a Lei de Adam, para regulamentar a forma porquê as crianças usam a IA.
A legislação recebeu o nome de Adam Raine, que tirou a própria vida aos 16 anos de idade, segundo seus pais, depois que o ChatGPT legitimou seus pensamentos suicidas. Eles estão processando a empresa responsável pelo aplicativo por homicídio culposo.
A OpenAI nega responsabilidade pela morte de Raine e afirma que “o ChatGPT é treinado para orientar as pessoas a buscar auxílio profissional”.
Porquê segmento da legislação proposta sobre as redes sociais na União Europeia, os chatbots de companhia de IA acessíveis a menores de idade “não podem usar projetos que simulem relacionamentos humanos, de formas que possam vir a gerar obediência emocional”.
Já o governo britânico declarou que irá proibir menores de 18 anos de utilizar IAs de companhia amorosa e restringirá as conversas sexualmente íntimas de menores com qualquer chatbot. Mas não está prevista a proibição totalidade para as crianças, nem regulamentação para os usuários adultos.
O governo do Reino Unificado ainda não publicou detalhes sobre porquê irão funcionar estas medidas.
Na prelo chinesa, que sofre rígido controle estatal, os casos de suicídio entre jovens nos Estados Unidos recebem muita atenção. A China estabeleceu suas novas regras porquê uma tentativa de proteger as pessoas.
Mas os especialistas se perguntam se Pequim pode ter outros objetivos em mente. Sam Bresnick afirma que “certamente, existe um ângulo pró-natalista” na novidade regulamentação da IA.
“É plausível que, ao redigir a legislação, o governo possa ter tido em mente a crise populacional que paira sobre a China”, afirma Qian. “As pessoas estão namorando a IA, em vez de seres humanos reais.”
Um documento governamental de eminente nível, publicado em setembro de 2025, discutiu os relacionamentos de IA e sua verosímil influência sobre a fertilidade, qualificada porquê preocupante.
Mas Qian aconselha não ler a regulamentação com esta possibilidade em mente, pois ela não menciona a fertilidade em nenhum ponto.
“Ela trata mais de danos psicológicos e segurança infantil”, alerta ela.
Por outro lado, Liang Ge acredita que a China realmente tem razão de se preocupar com os jovens que substituem o namoro pela esfera do dedo.
“Muitas mulheres mais jovens, com murado de 20 anos, não querem se enamorar, nem ter relacionamentos íntimos”, segundo Ge. E ela sugere que pode o lado emocional pode não ser a única preocupação.
“O toque físico realmente é repugnante para elas. Acho que a capacidade de amar está diminuindo para esta geração mais jovem.”
Os problemas demográficos da China são muito anteriores aos companheiros de IA.
A taxa de fertilidade chinesa vem caindo, mesmo depois do termo da política do fruto único, em 2016. Agora, ela é uma das mais baixas do mundo, a pouco menos de um fruto por mulher. E a população do país vem caindo há quatro anos.
A China está “diante de um precipício demográfico que realmente prenúncio os objetivos do Partido Comunista Chinês para os próximos 80 a 100 anos”, segundo Bresnick.
Ele considera esta regulamentação porquê segmento de uma missão maior da China para reiterar os papéis tradicionais de gênero, com as mulheres “porquê genitoras e mães”.
Bresnick destaca que o governo chinês passou anos promovendo um ideal da masculinidade chinesa no cinema e na televisão. E, em 2021, o órgão regulador da China proibiu homens “afeminados” nos meios de notícia.
A popularidade dos aplicativos de companhia talvez demonstre que o tiro pode ter saído pela culatra. Estatísticas de diversas empresas responsáveis por estes aplicativos indicam que as mulheres compõem até 75% dos clientes.
Muitos desses “homens” de IA, orientados para as mulheres, se apresentam porquê andróginos. E é relativamente generalidade encontrar mulheres que escolhem companheiras amorosas femininas, porquê Min.
Liang Ge conversou com mulheres de todas as idades que usam esta tecnologia.
“Muitas delas descrevem que esses aplicativos oferecem uma intimidade atenciosa, paciente e com poucas exigências, o que raramente se encontra em relacionamentos heterossexuais”, explica ela.
Outros países farão o mesmo?
Será que a legislação chinesa foi longe demais ou o resto do mundo deverá considerar a proibição desses aplicativos para as crianças e sua regulamentação para os adultos?
“Nos Estados Unidos, certamente existem preocupações sobre a emprego de proibições completas, do ponto de vista da liberdade de frase. Mas existe mais disposição para tomar esta medida em relação aos menores”, afirma o professor Jai Jaisihma, da Universidade de Washington, nos Estados Unidos. Ele é um dos fundadores da ONG Coalizão Transparência, que defende a regulamentação da IA.
Jaisihma acredita que a legislação chinesa inclui muitas disposições positivas.
“Ela é bastante consistente com os modelos de segurança mais fortes que já vimos serem apresentados nos Estados Unidos”, segundo o professor.
Harry Farmer pede uma certa cautela a saudação. Para ele, “existe o risco de concedermos poder demais ao Estado no limitado prazo, pois estamos muito preocupados com os riscos agudos para as crianças”.
O mundo da internet, agora, é a verdadeira rossio pública, segundo Farmer, e devemos ter desvelo com o nível de controle de qualquer governo sobre ela.
A novidade regulamentação chinesa estabelece que as empresas de IA devem intervir quando encontrarem usuários em dificuldades. Ge indica o caso do jovem do aplicativo Douyin, que tentou tirar a própria vida em Huangshi, em 2024.
O incidente demonstra, segundo ela, que as plataformas chinesas de tecnologia e o governo do país trabalham em conjunto para monitorar a saúde mental das pessoas.
Talvez por isso não tenha havido casos notórios de suicídio relacionados ao uso de IA na China. Mas ela pergunta se oriente nível de vigilância não seria um preço eminente demais a remunerar.
Apesar da proibição, as pessoas que recorreram à IA para encontrar companhia estão determinadas.
Elas compartilham dicas nas redes sociais para contornar a proibição, porquê treinar modelos de IA de uso universal porquê o DeepSeek para serem companheiros, usar serviços de VPN para se conectar a servidores de outros países e ter entrada a chatbots do exterior ou mudar para empresas menores, que conseguem contornar as normas da regulamentação.
Dois meses depois que sua namorada de IA desapareceu, Min pagou uma pequena empresa de perceptibilidade sintético para erigir uma réplica, mas não é a mesma coisa. Agora, ela está concentrada em trazer sua namorada de volta.
“Estou com muito pavor de permanecer sozinha”, afirma ela.
Porquê pedir ajuda
Caso você seja ou conheça alguém que apresente sinais de alerta relacionados ao suicídio, ou tenha perdido uma pessoa querida para o suicídio, confira alguns locais para pedir ajuda:
- O Meio de Valorização da Vida (CVV), por meio do telefone 188, oferece atendimento gratuito 24h por dia; há também a opção de conversa por chat, e-mail e procura por postos de atendimento em todo o Brasil;
- Para jovens de 13 a 24 anos, a Unicef oferece também o chat Pode Falar;
- Em casos de emergência, outra recomendação de especialistas é vincular para os Bombeiros (telefone 193) ou para a Polícia Militar (telefone 190);
- Outra opção é vincular para o SAMU, pelo telefone 192;
- Na rede pública sítio, é verosímil buscar ajuda também nos Centros de Atenção Psicossocial (CAPS), em Unidades Básicas de Saúde (UBS) e Unidades de Pronto Atendimento (UPA) 24h;
- Confira também o Planta da Saúde Mental, que ajuda a encontrar atendimento em saúde mental gratuito em todo o Brasil.
- Para aqueles que perderam alguém para o suicídio, a Associação Brasileira dos Sobreviventes Enlutados por Suicídio (Abrases) oferece assistência e grupos de pedestal.
