O cofundador do Google DeepMind, Shane Legg, alertou que o avanço acelerado da IA (inteligência artificial) não deve jamais ultrapassar os mecanismos de segurança, em meio a crescentes pedidos para desacelerar o desenvolvimento de modelos de fronteira.

“Estamos vivendo agora um período em que as capacidades estão avançando muito, muito rapidamente”, disse Legg em entrevista ao Financial Times. “Mas não podemos permitir que as capacidades fiquem à frente da segurança.”

Legg afirmou que o mais recente discurso do presidente-executivo da Anthropic, Dario Amodei, defendendo uma desaceleração, mas não uma suspensão, do lançamento de modelos de fronteira devido aos riscos de segurança, aponta para uma “direção interessante” e “vale a pena considerar”.

“Mas precisamos realmente explorar os detalhes disso e uma vez que funcionaria na prática”, acrescentou.

Os comentários foram feitos durante o lançamento do DeepMind Institute, criado para estudar as implicações da AGI (perceptibilidade sintético universal), definida pela empresa uma vez que um sistema que apresenta todas as capacidades cognitivas do cérebro humano.

Apesar dos avanços da tecnologia, Legg afirmou ser prematuro declarar que a AGI —termo que ajudou a gerar— já foi alcançada, apesar de declarações recentes de executivos da Nvidia e da OpenAI.

Legg disse que continua “confortável” com sua previsão de longa data de que há 50% de chance de uma AGI “mínima” ser alcançada até 2028.

Legg atualmente é cientista-chefe de AGI do Google DeepMind. Sir Demis Hassabis deixou o função de presidente-executivo do laboratório de IA, controlado pelo Google, no mês pretérito para assumir a presidência. O terceiro cofundador, Mustafa Suleyman, é atualmente um eminente executivo da Microsoft.

O novo DeepMind Institute pretende “engrandecer” o debate sobre AGI ao tornar a pesquisa técnica da empresa atingível a um público mais largo, disse Legg. Seus outros dois diretores são Hassabis e James Manyika, vice-presidente sênior do Google.

“O debate público está realmente ganhando força agora. E as pessoas estão levando muito, muito a sério a possibilidade de uma perceptibilidade universal poderosa”, disse Legg. “Portanto parece que oriente é realmente o momento de principiar a promover uma discussão pública mais ampla sobre muitos desses temas fascinantes.”

Legg rejeitou as afirmações feitas neste mês por Greg Brockman, presidente da OpenAI, de que o lançamento de seu mais recente protótipo, o GPT-6 Astra, demonstrava que “agora estamos na era da AGI”. Jensen Huang, presidente-executivo da Nvidia, também afirmou, ao se referir ao Astra: “A AGI chegou”.

Reconhecendo que as definições de AGI variam, Legg disse que nem sequer está simples se o Astra atende à definição adotada pela OpenAI: ser capaz de realizar a maior segmento do trabalho cognitivo economicamente valioso.

“Obviamente, eles estão fazendo coisas incríveis, mas ainda não chegou a um ponto em que eu ache que possa sequer atender à definição deles próprios”, afirmou.

Legg, editor-chefe do site do instituto, disse que a organização abordará uma ampla variedade de temas relacionados à AGI, uma vez que ciência, instrução, sociedade, políticas públicas, filosofia e bem-estar humano. Muitos dos ensaios serão escritos por funcionários do Google, mas alguns contarão com contribuições de especialistas externos para estimular a inconstância de opiniões no debate.

Inicialmente, o instituto publicou três ensaios sobre segurança da IA, política econômica e princípios para um “novo utopismo”.

Um dos textos, sobre os chamados modelos de raciocínio de “calabouço de pensamento”, escrito pelos pesquisadores da DeepMind Rohin Shah e Anca Dragan, criticou o rápido lançamento do GPT-6 Astra, da OpenAI. Os autores afirmaram que o protótipo demonstra uma “tendência preocupante de queda” na transparência.

As pressões competitivas correm o risco de reduzir os incentivos à transparência, escreveram, acrescentando que a regulamentação poderia ajudar.

Eles argumentaram, porém, que modelos mais robustos podem ser desenvolvidos desde que uma estrutura de transparência seja incorporada ao projeto.

“Por todas as formas uma vez que ainda não entendemos os sistemas de IA, não devemos ignorar a sorte de os melhores modelos de raciocínio atuais pensarem em voz subida de uma maneira que os humanos conseguem compreender”, escreveram.

Manyika afirmou que a única corrida de IA da qual o Google quer participar é “a corrida para fazer isso da maneira certa”.