O israelense Yuval Noah Harari, um dos autores mais populares da atualidade, alerta para um horizonte tenebroso em seu novo livro, “Nexus: Uma Breve História das Redes de Informação, da Idade da Pedra à perceptibilidade sintético”, de quem lançamento mundial ocorre nesta terça-feira (3).
Segundo ele, a humanidade está pisando no acelerador do desenvolvimento da perceptibilidade sintético, mas não sabe porquê freá-la.
“A IA é a tecnologia mais poderosa já criada pela humanidade, porque é a primeira que pode tomar decisões: uma petardo atômica não pode determinar quem combater, nem pode inventar novas bombas ou novas estratégias militares. Uma IA, ao contrário, pode determinar sozinha combater um cândido específico e pode inventar novas bombas”, diz à Folha o historiador, que vendeu 45 milhões de exemplares com “Sapiens”, “Homo Deus” e “21 Lições para o Século 21”.
Para Harari, o primeiro passo é concordar que “precisamos regular a IA da mesma forma que regulamos produtos, medicamentos e carros”. Leia a seguir a entrevista, feita por email.
Por que o sr. decidiu ortografar um livro sobre tecnologia e perceptibilidade sintético?
Oriente não é um livro exclusivamente sobre IA. Ele explora a história das redes de informação desde a Idade da Pedra. A teoria é ter uma perspectiva histórica sobre a revolução da IA estudando o impacto das revoluções de informação anteriores.
Por exemplo, porquê a invenção do livro levou à Bíblia e ao cristianismo. Uma vez que a invenção da prensa levou a uma vaga de teorias da conspiração, caça às bruxas e guerras religiosas na Europa do século 16. E porquê os soviéticos usaram a tecnologia da informação moderna para gerar sua polícia secreta.
O objetivo é entender a interação entre tecnologia e seres humanos. Especialistas em IA acham difícil entender porquê uma novidade tecnologia influenciará a religião, a cultura e a política. Especialistas em computação tendem a ter visões ingênuas sobre a história.
Quando a internet surgiu, os gigantes da tecnologia prometeram que ela espalharia a verdade e a liberdade e levaria à queda de ditadores e ao fortalecimento da democracia. Isso não aconteceu.
Hoje temos a tecnologia de informação mais sofisticada da história, mas as pessoas estão perdendo a capacidade de conversar umas com as outras. Democracias em todo o mundo estão sendo minadas. Um conhecimento da história pode nos ajudar a entender o porquê.
Hoje, há uma quantidade recorde de informações em circulação, e a tecnologia nunca foi tão avançada. Mesmo assim, a humanidade nunca esteve tão próxima do autoextermínio por pretexto do aquecimento global e das guerras. Os luditas [trabalhadores têxteis que se opunham à introdução de novas máquinas durante a Revolução Industrial] estavam corretos?
Informação não é conhecimento. A maior secção da informação é lixo. Conhecimento é um tipo vasqueiro e dispendioso de informação.
Por exemplo, é fácil inventar uma fake news interessante —você simplesmente escreve o que quiser. Mas é difícil ortografar uma reportagem verdadeira, porque pesquisar e apurar é dispendioso. E a notícia verdadeira que você produz provavelmente atrairá menos atenção do que a fake news, porque a verdade tende a ser complicada, e as pessoas não gostam de histórias complicadas.
Podemos confrontar informação com comida. Há século anos, a comida era escassa. Logo os humanos comiam qualquer coisa que encontrassem, gostavam principalmente de comida com muita gordura e açúcar. Hoje, a comida é rico, e somos inundados por “comida lixo”, artificialmente rica em gordura e açúcar. Se as pessoas comem muito lixo, ficam doentes.
O mesmo vale para a informação, que é o maná da mente. Estamos inundados por muita informação lixo. A informação lixo é artificialmente enxurrada de ganância, ódio e pânico —coisas que atraem nossa atenção. Toda essa informação lixo deixa nossas mentes e sociedades doentes. Precisamos de uma dieta de informação.
O sr. labareda de concepção ingênuo de informação a teoria de que quanto mais informação, melhor, e que as melhores ideias e a verdade prevalecerão naturalmente. Mas também rejeita a teoria de o governo atuar porquê um Ministério da Verdade. Qual é o meio-termo?
Devemos partir do pressuposto de que todos são falíveis. As corporações são falíveis, assim porquê o governo. Portanto, nunca devemos dar domínio absoluta a uma única entidade.
O poder de regular a tecnologia da informação deve ser distribuído entre o governo, as corporações, os tribunais, a mídia, a ateneu e as ONGs. Isso é complicado, mas a dificuldade é uma particularidade da democracia. A ditadura é simples —uma única pessoa manda em tudo e nunca admite nenhum erro. A democracia é complicada —muitas pessoas conversando e corrigindo os erros uns dos outros.
O primeiro passo crucial, no entanto, é concordar que precisamos regular a tecnologia da informação da mesma forma que regulamos produtos, medicamentos e carros.
Quando uma empresa automobilística decide produzir um novo protótipo de sege, ela investe uma secção significativa de seu orçamento em segurança. Se uma empresa automobilística negligencia a segurança, os clientes podem processá-la em procura de indenizações, e o governo pode impedi-la de vender seus carros.
Existem muitas leis que limitam aonde os carros podem ir, quem pode guiar e a velocidade que podem atingir. Exatamente os mesmos padrões devem ser aplicados aos algoritmos.
Em um experimento de junho de 2023, o bilionário Marc Andreessen disse que a perceptibilidade sintético não destruirá o mundo; na verdade, pode salvá-lo. Faz sentido?
Andreessen está evidente ao manifestar que a IA pode melhorar muito nossas vidas. Ela pode gerar o melhor sistema de saúde da história e ajudar a prevenir o colapso ecológico. Mas não devemos ignorar suas ameaças.
É a tecnologia mais poderosa já criada pela humanidade porque é a primeira que pode tomar decisões. Uma petardo atômica não pode determinar quem combater nem pode inventar novas bombas ou estratégias militares. Uma IA, ao contrário, pode determinar sozinha combater um cândido específico e pode inventar novas bombas, estratégias e até novas IAs.
A coisa mais importante a saber sobre a IA é que ela não é uma instrumento em nossas mãos —é um agente autônomo, fazendo coisas que não esperávamos. O que acontecerá conosco quando milhões de agentes não humanos começarem a tomar decisões sobre nós e a gerar coisas novas —de novos medicamentos a novas armas, de novos textos religiosos a novos tipos de verba?
No livro, o sr. menciona várias vezes o ex-presidente Jair Bolsonaro porquê exemplo de líder populista que usou a informação porquê arma. Por que lhe pareceu importante incluí-lo?
Muitos livros sobre a revolução da IA focam demais os Estados Unidos e ignoram o resto do mundo. Mas alguns dos piores efeitos da IA podem ser sentidos em lugares porquê o Brasil antes dos EUA. Vimos isso anteriormente na história, por exemplo, com a Revolução Industrial.
O senhor fala sobre o transe de a IA, sem mecanismos de autocorreção, ser usada por líderes autoritários. Qual seria o cenário no Brasil, com um líder dominador governando com a ajuda da IA?
Um grande transe é a geração de regimes de vigilância totalidade. Ao longo da história, ditadores quiseram monitorar toda a população 24 horas por dia para prometer que todos estavam obedecendo às suas ordens e ninguém estava resistindo ou mantendo opiniões dissidentes. No entanto, até agora os ditadores não conseguiam fazer isso.
Primeiro, faltavam espiões suficientes. Por exemplo, a ditadura militar no Brasil nos anos 1970 não conseguia seguir 100 milhões de cidadãos brasileiros 24 horas por dia. Isso teria exigido 200 milhões de agentes da polícia secreta (porque até mesmo os agentes do DOI-Codi precisavam dormir às vezes).
Em segundo lugar, a ditadura não tinha analistas suficientes. Se todos os dias os espiões coletassem informações sobre 100 milhões de brasileiros, de onde o regime poderia obter analistas suficientes para processar todas essas informações?
Com a IA, um horizonte ditador não precisaria de milhões de agentes humanos para espionar todo mundo. Smartphones, computadores, câmeras, microfones e drones poderiam fazer isso. Nem precisaria de milhões de analistas humanos. A IA poderia processar a enorme quantidade de informações e punir qualquer dissidência.
Isso já está acontecendo em algumas partes do mundo. No Irã, por exemplo, existem leis rígidas que obrigam as mulheres a usarem o hijab sempre que saem de mansão. Anteriormente, era difícil fazer satisfazer essas leis. Mas o regime iraniano agora usa IA. Mesmo que uma mulher dirija seu próprio sege sem hijab, as câmeras de reconhecimento facial identificam esse delito.
Quais são os mecanismos de autocorreção essenciais para prometer que a IA seja segura?
Precisamos gerar instituições que possam identificar rapidamente problemas e reagir a eles. Serão novas instituições regulatórias que atrairão alguns dos maiores talentos e serão financiadas por um imposto sobre os lucros dos gigantes de tecnologia.
Fabricar exclusivamente uma instituição regulatória será perigoso, porque ela terá poder demais. Precisamos aderir ao princípio democrático da partilha de poder.
Há entusiastas da IA que nos dizem que não precisamos dessas instituições no momento. Regulamentações retardariam o desenvolvimento e talvez dessem vantagem a competidores em outros países. Eles dizem que, no horizonte, se descobrirmos que a IA é perigosa, podemos focar nossos esforços na segurança. Mas isso é insano.
Quando você aprende a guiar um sege, a primeira coisa que ensinam é porquê brecar. Só depois de saber porquê usar os freios é que ensinam porquê apoucar o acelerador. Isso também se aplica à IA.
Quanto ao argumento de que investir em segurança daria vantagem a competidores —isso é um contra-senso. Se seus concorrentes desenvolverem um sege sem freios, isso significa que você também deve desenvolver um sege tão perigoso?
RAIO-X | Yuval Noah Harari, 48
Nascido em Israel, é professor na Universidade Hebraica em Jerusalém e pesquisador na Universidade de Cambridge. Formado em história militar e medieval na Universidade Hebraica, tem doutorado pela Universidade de Oxford. Responsável dos best-sellers mundiais “Sapiens – Uma Breve História da Humanidade”, “Homo Deus – Uma Breve História do Amanhã” e “21 Lições para o Século 21”, traduzidos para 65 idiomas.
