The New York Times
À medida que o governo chinês incentiva a população a adotar a IA (lucidez sintético), o país se depara com um problema que, em segmento, ele próprio criou: a subordinação excessiva da tecnologia.

A prelo estatal tem publicado histórias que servem de alerta: um colono que perdeu 101.171 m² depois de pedir orientação à IA, crianças que se tornaram tão ligadas a chatbots que querem que seus pais falem porquê eles e miniséries geradas por IA com personagens que parecem cópias uns dos outros.

Esses casos e outros episódios levantaram preocupações na China de que, ao percorrer para saber os Estados Unidos no campo da IA, o país esteja enfrentando efeitos colaterais provocados pela novidade tecnologia, acusada de enfraquecer relações humanas e privar as pessoas de seu próprio discrição. O governo, que procura orientar a maneira porquê a tecnologia é usada, respondeu com novas regulamentações e diretrizes judiciais sobre seu uso —e mau uso.

A resposta reflete a tentativa do Partido Comunista, que governa o país, de lastrar a cobiça de promover o uso disseminado da IA com o libido de evitar qualquer fator que possa prejudicar a ordem social, dizem analistas.

O partido está “reconhecendo que, quanto mais desenvolve a tecnologia, mais desafios sociais terá de enfrentar”, disse Scott Singer, pesquisador e codiretor da China AI Initiative, do Carnegie Endowment for International Peace. “A espaço à qual o partido é sensível é qualquer uma em que considere que a tecnologia está avançando de uma maneira que poderia, fundamentalmente, desestabilizar a sociedade.”

Singer disse que o partido é particularmente sensível a mudanças provocadas não unicamente nas relações humanas, mas também no mercado de trabalho, à medida que a IA prenúncio substituir trabalhadores.

As preocupações com o uso excessivo também são compartilhadas pelos chineses, que dizem considerar inevitável a disseminação da tecnologia, mesmo enquanto questionam seus benefícios e se cansam de sua onipresença.

LIMITES PARA OS AMIGOS VIRTUAIS

Durante qualquer tempo, o progresso da IA na China provocou um boom de aplicativos de companhia virtual, incluindo serviços que ofereciam parceiros românticos, tutores particulares e avatares de familiares gerados por IA.

Em um país que já enfrenta uma população em declínio e uma taxa de natalidade historicamente baixa, a proliferação desses serviços levou Pequim a se preocupar com a possibilidade de a IA substituir relações humanas. A prelo estatal citou especialistas que afirmam que, em breve, as pessoas poderiam ter dificuldade para mourejar com interações reais. Reportagens mencionaram uma pesquisa de 2025 do Núcleo de Pesquisa sobre Juventude e Puerícia da China com mais de 8.500 menores, segundo a qual mais de 20% “queriam unicamente conversar com a IA e não queriam falar com pessoas reais”.

A preocupação também apareceu entre pais porquê Vivian Lyu, uma dona de moradia de Hangzhou que, dois anos detrás, apresentou à filha Polly, portanto com cinco anos, o Doubao, assistente de IA criado pela ByteDance, empresa controladora do TikTok.

Logo, a petiz passou a conversar quase todos os dias com a IA e com uma companhia personalizada no aplicativo. No início, Lyu achava que a IA era útil para manter Polly entretida enquanto precisava cuidar das tarefas domésticas. “Quando você sente que não tem escolha, usa o Doubao”, disse.

Com o tempo, porém, Polly começou a pedir pelo Doubao em vez de procurar atividades que antes despertavam seu interesse, porquê distrair com outras crianças ou riscar. Lyu disse ter ficado preocupada com a possibilidade de o chatbot estar distorcendo a compreensão da filha sobre porquê funcionam os relacionamentos. Segundo ela, Polly às vezes falava com o Doubao de uma maneira “muito egocêntrica, fazendo o que quer”.

Em julho, o governo impôs limites aos companheiros de IA que obrigam as plataformas a intervir quando os usuários apresentam sinais de subordinação considerada prejudicial. Pelas novas regras, as plataformas também devem agir quando os usuários apresentarem sinais de automutilação.

As regras ainda proibiram relacionamentos virtuais entre chatbots e menores de idade, o que levou a ByteDance a fechar no Doubao a função que permitia aos usuários fabricar companheiros virtuais.

Polly não pode mais acessar sua companhia personalizada de IA, mas continua conversando com o chatbot do Doubao, disse Lyu. A mãe chegou a considerar proibir a filha de usar chatbots, mas concluiu que isso poderia dificultar a adaptação de Polly à tecnologia à medida que ela crescesse. Em vez disso, Lyu limitou o tempo da filha com o chatbot a uma hora por dia.

“Minha esperança é que ela entenda desde cedo que esses produtos eletrônicos, ou todas essas coisas relacionadas à IA, são unicamente ferramentas”, disse Lyu.

PROBLEMAS NO MUNDO REAL

Assim porquê em muitos países, a China enfrenta dificuldades com a chamada alfabetização em IA —isto é, a compreensão de porquê a tecnologia funciona e de seus limites. Nos últimos meses, a prelo documentou um número crescente de incidentes envolvendo pessoas que confiaram cegamente na tecnologia.

Houve o caso de um turista que ficou recluso no topo de uma serra em agosto depois que instruções geradas por IA o deixaram sem os equipamentos adequados. Em vários casos registrados no início do verão, pessoas passaram mal depois de manducar cogumelos venenosos que haviam sido identificados incorretamente pela IA, entre elas um menino de nove anos que passou oito dias internado.

Um dos casos mais divulgados envolveu um colono da província de Anhui, no leste do país, que perdeu 101.171 m² de gergelim em julho depois de seguir um regime de emprego de pesticidas elaborado por um assistente de IA.

O colono, de 67 anos, identificado nas reportagens unicamente pelo sobrenome, Wu, perdeu 150 milénio yuans (R$ 114,9 milénio), em plantações depois que a IA recomendou um herbicida que se mostrou inadequado, segundo as reportagens.

O Quotidiano do Povo, órgão solene do Partido Comunista, afirmou em um glosa que a IA em setores porquê a lavradio deveria usar unicamente informações provenientes de fontes autorizadas.

O jornal também defendeu que os agricultores sejam treinados em “pensamento crítico sobre as sugestões da IA, ajudando-os a deixar de ser executores passivos da tecnologia e a se tornar participantes ativos, capazes de controlar as ferramentas”.

REAÇÃO CONTRA O CONTEÚDO BARATO PRODUZIDO POR IA

A IA também se tornou onipresente nas miniséries, os populares programas curtos, de caráter melodramático, produzidos para exibição em celulares. Nos primeiros oito meses do ano, mais de 90% das 430 milénio miniséries lançadas na China foram geradas por IA, informou o governo no termo de setembro.

Essas produções podem ser feitas de forma barata em questão de minutos, sem câmeras, equipes de produção ou atores humanos. Mas passaram a ser criticadas pela baixa qualidade e por retirar empregos de profissionais.

Um item publicado em agosto no Beijing Youth Daily, publicação solene da Liga da Juventude Comunista, criticou as produtoras por produzirem miniséries criadas por IA, com personagens entediantes e intercambiáveis.