Daqui a um século, 2023 será lembrado uma vez que o ano em que a humanidade decidiu prometer a sua sobrevivência.
Para Stuart Russell, professor e diretor do departamento de Ciência da Computação da Universidade de Berkeley, o motivo é simples: foi quando instituições uma vez que a ONU e governos de todo o mundo compreenderam a urgência do controle e regulação do desenvolvimento das inteligências artificiais.
Em sua palestra na noite desta quinta-feira (2) no ciclo Fronteiras do Pensamento, o britânico argumentou que o catalisador dessa mudança foi a publicação de uma missiva ensejo em abril de 2023 que pedia uma pausa na pesquisa de modelos de IA mais poderosos.
Assinado por empresários do Vale do Silício, líderes políticos e pesquisadores, incluindo o próprio Russell, o documento afirma que o horizonte da espécie depende da geração de parâmetros internacionais de governança e regulação do uso das IAs.
“As IAs têm um potencial enorme para facilitar a humanidade e isso está criando um ímpeto irrefreável que, transportado da maneira atual, vai fazer com não tenhamos mais o controle do nosso horizonte”, disse Russell, que também é responsável do livro “Lucidez Sintético a Nosso Obséquio” e um dos pioneiros no estudo do tema.
Para Russell, mesmo que modelos uma vez que o ChatGPT-4, baseados em processamento de dados e deep learning, não apontem o caminho para a geração de uma Lucidez Universal Sintético (AGI na {sigla} em inglês), capaz de “ultrapassar as capacidades humanas em qualquer direção”, o surgimento das verdadeiras IAs é inevitável.
A geração da AGI “é uma vez que um ímã para o horizonte”, que exerce uma atração irresistível para a humanidade com promessas de riquezas antes inimagináveis. Para Russell, uma IA desse tipo seria capaz de aumentar sozinha a qualidade de vida de todo o planeta e multiplicar o PIB mundial em dez vezes. Isso sem falar nas transformações no mercado de trabalho ou nos avanços científicos possibilitados por ela.
Por isso, não surpreende que empresas e governos invistam centenas de bilhões de dólares no desenvolvimento e aperfeiçoamento das IAs. O problema, para Russell, é que figuras uma vez que Sam Altman, CEO da OpenAI, digam que seu objetivo é primeiro chegar à AGI e “depois desvendar uma vez que torná-la segura”.
“Nós precisamos fazê-la segura por design antes que ela atinja níveis super-humanos”, argumentou Russell. Para substanciar o alerta, o pesquisador ecoou Alan Turing, um dos criadores da computação moderna. Em palestra nos anos 1950, o observador decretou que a geração de uma máquina de perceptibilidade avançada levaria, inevitavelmente, à perda do controle pela humanidade.
E é nesse cenário que as regulações estritas sobre o uso das IAs entram em jogo. Para Russell, o importante é mudar a maneira de pensar o problema. A ciência deve se perguntar não uma vez que produzir uma AGI, mas uma vez que criá-la de uma maneira que seja útil e proveitosa para a humanidade.
É principal, argumentou o britânico, que uma série de medidas sejam adotadas o quanto antes: os governos e órgãos internacionais devem exigir que futuras IAs tenham um mecanismo de desligamento forçado, não possam personificar seres humanos e nem gerar “deepfakes”.
“Os desenvolvedores precisam permanecer com o ônus de provar a segurança para os reguladores. Se você quer vender um remédio, você primeiro precisa prometer isso aos reguladores. Precisamos do mesmo princípio para sistemas de IAs”, disse Russell.
Os efeitos da falta de regulação também já são conhecidos. Para o pesquisador, a proliferação dos algoritmos de recomendação das redes sociais mostra um cenário em que a tecnologia é desenvolvida sem transparência e tem objetivos incompatíveis com os interesses coletivos. Nesse caso, os algoritmos buscam maximizar o número de cliques ignorando a qualidade da informação ou do teor disparado.
Em outras palavras, as IAs precisam ser criadas, desde o início, com o objetivo de oferecer respostas benéficas para os dilemas e necessidades da humanidade. Do contrário, corre-se o risco de findar uma vez que “Midas, que queria que tudo que tocasse fosse ouro e, assim, transformou tudo à sua volta, inclusive a sua família”, argumentou o britânico.
Para exemplificar os perigos das IAs sem regulação, Russell citou o personagem Thanos, vilão da série de filmes dos “Vingadores”, da Marvel.
Ao ocupar a onipotência através das Joias do Infinito, o contraditor estalou os dedos e matou metade da população do universo, sob a justificativa de que, com menos guerras por recursos e espaços, os remanescentes seriam mais felizes.
“Ele realmente acha que fez a coisa certa. Se sistemas de IA coletassem as Joias do Infinito, nós não queremos que elas cheguem às mesmas conclusões. Precisamos resolver esse problema ou fazê-las nunca terem esse problema”.
Ao longo do ano, o ciclo Fronteiras do Pensamento terá palestras com nomes uma vez que Muriel Barbery, Yascha Mounk, Nouriel Roubini, Anna Lembke e Simon Montefiore.
FRONTEIRAS DO PENSAMENTO – 18ª TEMPORADA
Quando: até 30 de outubro
Onde saber mais: fronteiras.com
Assinante Folha tem 45% de desconto
