O rei Charles 3º, do Reino Uno, deve se reunir nesta semana, na Escócia, com os líderes das principais empresas de lucidez sintético, em meio a temores crescentes de que o desenvolvimento rápido e descontrolado da tecnologia possa levar a uma catástrofe global.

O régio deve se encontrar com representantes de empresas uma vez que Nvidia, Google, DeepMind, OpenAI e Anthropic, além de autoridades governamentais e outras pessoas, “para discutir uma vez que a IA pode ser desenvolvida e empregada de maneiras que beneficiem a sociedade”, de convénio com expedido do Palácio de Buckingham. O encontro ocorrerá em Ayrshire, no sudoeste da Escócia, na Dumfries House, sede da King’s Foundation, uma instituição beneficente voltada à ensino.

A reunião ocorre em um momento em que profissionais do setor de IA e diretores-executivos de algumas das empresas mais poderosas da dimensão vêm fazendo alertas sobre essas ferramentas e a velocidade com que estão evoluindo. Alguns defendem a geração de diretrizes comuns e um ritmo de progresso deliberadamente mais lento, para prometer que os seres humanos consigam escoltar.

A reunião de Charles sobre IA examinará uma vez que a tecnologia pode ser usada para o muito, a término de “fortalecer comunidades e melhorar vidas”, afirmou o expedido do Palácio de Buckingham, que não especificou quem participaria em nome das empresas de IA mencionadas no expedido.

Anthropic, DeepMind, Google e Nvidia não responderam de subitâneo aos pedidos de observação para confirmar sua participação. A OpenAI informou que Sarah Friar, sua diretora financeira, estaria presente.

A preocupação atual com o rápido progresso da IA foi provocada, em grande segmento, por uma invasão ocorrida contra a Hugging Face, empresa de infraestrutura de IA, orquestrada por um grupo de agentes de IA criados pela OpenAI. O ataque em tamanho culminou no roubo de dados, no controle de um servidor e na tentativa de extinguir seus rastros.

Essa invasão —e outro incidente semelhante ocorrido dentro da OpenAI pouco depois— aumentou drasticamente os temores de que as máquinas possam evadir rapidamente ao controle humano, com efeitos potencialmente devastadores.

O CEO da Anthropic, Dario Amodei, publicou no sábado (12) uma epístola ocasião pedindo que o desenvolvimento da IA seja desacelerado. Além da invasão à Hugging Face, ele apontou uma vez que motivo de preocupação o roupa de os atuais modelos de IA serem cada vez mais capazes de gerar a próxima geração de ferramentas de IA.

Amodei afirmou que essa dinâmica, conhecida uma vez que autoaperfeiçoamento recursivo, “poderia progredir mais rápido do que nossa capacidade de compreender e controlar esses sistemas”, caso não seja contida.

O executivo instou empresas de IA e órgãos reguladores de todo o mundo a trabalharem juntos em uma abordagem criteriosa para o desenvolvimento da tecnologia e propôs seu próprio projecto de três etapas. Entre as propostas estavam permitir que avaliadores independentes atuassem dentro de empresas de IA de ponta para monitorar o incremento e relatar incidentes, além de promover a coordenação entre empresas de países democráticos para estabelecer padrões comuns de segurança.

“Na medida do provável”, afirmou, países democráticos e governos autoritários também deveriam tentar coordenar e controlar o ritmo do desenvolvimento global.

A opinião de Amodei recebeu o escora de outros dirigentes de empresas de IA, entre eles Sam Altman, da OpenAI, e Elon Musk, da xAI, que faz segmento da SpaceX, empresa de foguetes e satélites de Musk.

O experiência foi publicado poucos dias depois de Jacob Coxon, engenheiro que trabalhou na OpenAI e na Anthropic e pediu deposição das duas empresas, declarar nas redes sociais que as companhias afirmavam estar preocupadas com o rápido desenvolvimento, mas, ainda assim, avançavam a toda velocidade rumo a “sistemas sobre-humanos capazes de invadir qualquer coisa, revolucionar qualquer dimensão da noite para o dia e comprar poder e recursos reais”. Segundo ele, as máquinas poderiam destruir a humanidade até o término desta dezena.

A reunião entre Charles e os líderes de IA será mediada pela Ditchley Foundation, uma organização britânica sem fins lucrativos, e contará com a participação de Kanishka Narayan, ministro britânico para a IA, segundo o Palácio de Buckingham.

Representantes de organizações beneficentes fundadas pelo rei, entre elas a King’s Trust, voltada à juventude, e a Sustainable Markets Initiative, uma rede global de diretores-executivos, também participarão, segundo o expedido.