O órgão de lucidez da China alertou que a IA (lucidez sintético) pode simbolizar um risco para a segurança política e social do país, sinalizando uma preocupação crescente em Pequim de que o rápido progresso da tecnologia possa ser explorado contra a China.

Em sua primeira revelação pública sobre lucidez sintético, o Ministério da Segurança do Estado detalhou, no domingo (13), as ameaças apresentadas pela tecnologia, incluindo riscos às defesas cibernéticas do país, a dados sensíveis e ao sumptuosidade militar.

“Forças hostis e pessoas com segundas intenções estão abusando de tecnologias de IA generativa, uma vez que áudios e vídeos deepfake, textos e imagens gerados por IA e ‘exércitos inteligentes de trolls’, para fabricar rumores políticos, disseminar informações nocivas e incitar sentimentos de partilha de forma barata e em grande graduação”, disse Chen Yixin, ministro da Segurança do Estado.

“Essas atividades constituem um ataque à opinião pública e uma guerra cognitiva contra a China, ameaçando diretamente nossa segurança política, institucional e ideológica”, acrescentou.

A enunciação representa uma ampliação significativa da discussão pública de Pequim sobre a segurança da lucidez sintético. Normalmente, o debate é levado pelo principal órgão regulador do setor, a Gestão do Ciberespaço da China, e concentra-se em questões regulatórias e técnicas.

A revelação ocorre enquanto líderes de empresas de tecnologia dos Estados Unidos demonstram preocupação com a velocidade do desenvolvimento de sistemas avançados de IA, posteriormente alertas cada vez mais contundentes de pesquisadores sobre a possibilidade de consequências catastróficas, incluindo um evento de extinção.

A enunciação do Ministério da Segurança do Estado, porém, não alertou que a IA poderia provocar a extinção da humanidade nem pediu que empresas chinesas reduzissem o ritmo de seus trabalhos na espaço.

No termo de semana, Dario Amodei, presidente-executivo da Anthropic, publicou um texto no qual pediu que o setor de tecnologia “desacelere o ritmo com que aprimoramos as capacidades dos modelos de IA”. Sam Altman e Elon Musk também divulgaram declarações apoiando a proposta.

O Global Times, tabloide patriótico ligado ao Partido Comunista da China, criticou na segunda-feira (14) a sugestão feita por Amodei de que uma “liderança chinesa em IA representaria um grave risco para os Estados Unidos e para o mundo”.

A asseveração de Amodei “corre o risco de transformar a segurança da IA em uma questão geopolítica de soma zero, em vez de abordar um repto global que exige cooperação entre as principais potências de IA”, afirmou o jornal, acrescentando que a motivação de Amodei seria de “interesses comerciais”.

Vários funcionários de órgãos reguladores, diplomatas e acadêmicos que trabalham com políticas de tecnologia e governança de IA afirmam que Pequim está cada vez mais preocupada com suas vulnerabilidades cibernéticas, diante dos avanços feitos pela Anthropic e pela OpenAI, cujos novos modelos demonstraram capacidades avançadas de invasão de sistemas.

Funcionários chineses também levantaram preocupações sobre a segurança da lucidez sintético em discussões recentes com autoridades e empresas dos Estados Unidos, segundo diplomatas e acadêmicos.

Nessas conversas, autoridades chinesas alertaram contra qualquer iniciativa de Washington para proibir modelos chineses de código simples.

O presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping, devem se reunir ainda neste mês nos EUA, onde a segurança da lucidez sintético deve estar entre os principais temas da agenda da cúpula.

Na enunciação de domingo (13), Chen também destacou o risco de empresas chinesas vazarem “informações sensíveis” ao utilizar ferramentas estrangeiras de lucidez sintético.

O alerta pode antecipar restrições mais rígidas ao uso de modelos estrangeiros de IA em setores considerados sensíveis.

Empresas estatais chinesas e companhias que atuam em áreas uma vez que finanças e saúde já enfrentam restrições ao uso de tecnologias estrangeiras, embora a emprego dessas regras varie.