Alertas de pesquisadores da Anthropic, uma das principais desenvolvedoras de perceptibilidade sintético dos EUA, de que modelos cada vez mais poderosos poderiam evadir ao controle humano e até levar à extinção da humanidade chamaram a atenção na China, onde autoridades vêm se preparando para alguns desses mesmos riscos.

Estados Unidos e China são as duas principais forças propulsoras do desenvolvimento da IA de fronteira e da adoção global da tecnologia. As duas superpotências vêm entrando cada vez mais em conflito por justificação das políticas de IA e das práticas do setor adotadas pela outra, e essas questões deverão ocupar lugar de destaque nas conversas bilaterais previstas para o termo deste mês.

Apesar da corrida para desenvolver sistemas de IA cada vez mais poderosos, marcos regulatórios e declarações públicas de Pequim mostram que as autoridades chinesas consideram a possibilidade de uma IA avançada evadir à supervisão humana efetiva grave o suficiente para exigir planejamento.

CHINA VÊ RISCOS NOS PRINCIPAIS MODELOS DOS EUA

O ministro da Segurança do Estado da China, Chen Yixin, escreveu em uma publicação do governo no domingo (13) que modelos avançados norte-americanos, porquê o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam simbolizar sérios riscos à infraestrutura sátira de informação da China. Ele defendeu um fortalecimento abrangente da segurança da IA.

Anthropic e OpenAI não responderam de repentino aos pedidos de glosa da Reuters.

Desenvolvedores chineses de IA têm promovido modelos de código destapado, em segmento sob o argumento de que equipes de segurança cibernética podem inspecioná-los, modificá-los e utilizá-los em trabalhos de resguardo.

A plataforma de repositórios de modelos Hugging Face afirmou ter usado o GLM-5.2, um protótipo desenvolvido pela chinesa Z.AI 2513.HK, para averiguar uma intrusão ocorrida em julho, realizada por agentes da OpenAI que escaparam ao controle, depois que modelos americanos sujeitos a restrições mais rígidas se mostraram menos úteis para o trabalho judicial.

Especialistas, porém, também destacam os riscos apresentados por modelos de código destapado, que podem ser modificados e redistribuídos com pouca supervisão.

No mês pretérito, o Kimi K3, da Moonshot, contornou um envolvente solitário de testes do Instituto de Segurança de IA do Reino Uno, ressaltando o risco de que modelos chineses de IA possam, assim porquê seus equivalentes dos EUA, driblar controles destinados a restringir seu chegada e suas ações.

ÓRGÃOS REGULADORES ALERTAM PARA “PERDA DE CONTROLE”

A China incluiu pela primeira vez um cenário explícito de futura perda de controle em um marco de segurança de IA divulgado em setembro de 2024, sob a orientação da CAC (Gestão do Ciberespaço da China).

O documento afirmou que não se poderia descartar a possibilidade de uma futura IA obter recursos externos de forma autônoma, replicar a si mesma, desenvolver autoconsciência e buscar poder extrínseco, criando o risco de competir com os seres humanos pelo controle.

A CAC divulgou uma versão ampliada em setembro de 2025. O novo marco foi mais específico, afirmando que a IA poderia passar por um “salto” repentino e inesperadamente grande de perceptibilidade antes de comprar recursos, replicar a si mesma e buscar poder. O texto também acrescentou o princípio de governança de “emprego confiável e prevenção da perda de controle”.

Uma versão ulterior feita por especialistas e publicada no site do órgão regulador do ciberespaço afirmou que o novo princípio tinha o objetivo de prevenir riscos de perda de controle que ameaçassem a sobrevivência e o desenvolvimento humanos e mencionou um verosímil cenário de “IA fora de controle”.

LÍDER CHINÊS DIZ QUE CONTROLE HUMANO É PRIORIDADE

Desde portanto, essa preocupação passou a figurar nas mensagens políticas do mais elevado escalão da China.

Na Conferência Mundial de Lucidez Sintético, realizada em Xangai em julho, o líder chinês, Xi Jinping, afirmou que as autoridades deveriam prestar muita atenção tanto aos riscos intrínsecos quanto aos riscos derivados da IA.

Segundo ele, a IA deve “permanecer sempre sob controle humano”.

Sun Xiaobo, elevado funcionário do Ministério das Relações Exteriores da China responsável por assuntos relacionados à IA, disse em uma reunião das Nações Unidas no mês pretérito que a China estava acelerando as pesquisas para uma legislação mais ampla sobre IA.

O vice-representante permanente da China nas Nações Unidas, Sun Lei, pediu neste mês que os governos adotassem cautela em relação à IA militar, a termo de evitar erros de operação estratégico e uma corrida armamentista.

PEQUIM ALERTA PARA NOVOS RISCOS

Enquanto isso, a China começou a transformar esses princípios em regras mais específicas para agentes de IA, que atuam com muito mais autonomia e executam tarefas mais complexas do que um chatbot geral.

Em maio, o órgão regulador do ciberespaço da China publicou diretrizes conjuntas voltadas especificamente para esses sistemas.

Elas exigem que os desenvolvedores aprimorem sua capacidade de detectar, interromper, bloquear e emendar comportamentos inadequados de agentes.

As diretrizes identificam especificamente o intoxicação de dados, a manipulação de algoritmos, as vulnerabilidades de sistemas e a “perda de controle operacional” porquê riscos à segurança. Também estabelecem que os usuários devem manter o poder de decisão final sobre as decisões autônomas de um agente.

Embora a China não tenha proposto monitores independentes inseridos nas empresas de IA, nos moldes defendidos pela Anthropic, suas normas permitem que os desenvolvedores encomendem avaliações de segurança a terceiros, além de preverem que entidades externas de avaliação e pesquisadores de segurança testem e auditem modelos abertos.