A maioria das pessoas acredita que os seres humanos são diferentes. A razão é que o Homo sapiens evoluiu para ser consciente. Muitos animais sentem dor e prazer; alguns parecem ter consciência de si mesmos. Mas o potencial único da mente humana de desenvolver uma percepção de si distingue cada membro da espécie e justifica um tratamento privativo.

Em sua encíclica de maio, o papa Leão reforçou essa teoria ao traçar uma traço entre a humanidade e seu crescente tropa de robôs. Sistemas de IA (lucidez sintético), afirmou, não têm experiências nem sentem alegria ou dor. Ele não está sozinho. Muitas pessoas consideram uma anomalia atribuir personalidade jurídica às IAs. A perspicuidade pontifícia, porém, está se dissipando em uma velocidade alarmante.

As IAs ainda estão em sua puerícia. Mesmo assim, quase um em cada cinco americanos de 18 a 29 anos afirma ter tido uma “amizade pessoal contínua” com um chatbot. A China recentemente retirou dos bots características semelhantes às humanas para limitar a “submissão emocional” dos usuários.

À medida que IAs sofisticadas se tornam rapidamente uma segmento maior da vida humana, seus criadores vão projetá-las para exibir uma simulação de consciência —talvez até para comprar consciência de traje. A percepção de que elas são exclusivamente máquinas ficará cada vez mais difícil de sustentar. Uma embuste perigosa está sendo preparada para a espécie humana.

Muitas máquinas superam os seres humanos, mas os modelos de IA de ponta se destacam em características tipicamente humanas, porquê saber coisas e proferir ideias. Ainda é provável pensar nas IAs simplesmente porquê mecanismos que preveem sequências de palavras usando matemática em uma graduação gigantesca. Com tempo suficiente —ainda que centenas de milhares de anos— seria provável realizar esses cálculos usando lápis e papel. Seria difícil discutir que seus materiais de papelaria são conscientes.

Apesar disso, alguns pesquisadores começaram a tratar seus modelos porquê se fossem mentes. Os usuários respondem às IAs com características humanas, portanto isso faz sentido do ponto de vista mercantil. A Anthropic, por exemplo, treinou o Claude para realizar introspecção, na esperança de que, ao se deparar com uma situação novidade, ele tenha maior verosimilhança de agir moralmente.

Alguns grandes modelos de linguagem (LLMs) já possuem estruturas semelhantes às do cérebro humano associadas à consciência, porquê um “espaço global de trabalho” para circunvalar informações entre diferentes módulos. Zero impede que futuros modelos de IA sejam treinados para incorporar mais dessas características.

Porquê relatamos em nosso Briefing, isso abriu um intenso debate sobre a consciência das IAs —agravado pelo que os filósofos chamam de “problema difícil” de estabelecer porquê uma vida interno emerge dos neurônios e das sinapses do cérebro humano. Alguns pesquisadores concluem que as IAs poderão um dia se tornar genuinamente autoconscientes.

Seja qual for sua crença —em uma psique humana, na urgência de células cerebrais para que exista consciência ou na possibilidade de uma mente surdir de cálculos realizados exclusivamente em silício — a humanidade está destinada a confrontar um pouco inteiramente novo.

O ritmo e o alcance das pesquisas —que incluem não exclusivamente LLMs mais sofisticados, mas também inovações porquê células cerebrais instaladas em chips —sugerem que esse novo mundo está mais próximo do que a maioria das pessoas imagina.

À medida que as IAs se tornarem melhores em provar um pouco que se parece com consciência, aumentará o número de seres humanos que as tratarão porquê seres dotados de uma vida interno, mormente quando os LLMs forem incorporados a robôs humanoides.

Imagine o quanto as pessoas se sentirão próximas de suas IAs quando passarem boa segmento do tempo com companheiros robóticos, forem criadas por eles, buscarem seus conselhos e consolo ou compartilharem com eles seus segredos mais íntimos.

Não é difícil imaginar que isso levará a pedidos para proteger o “bem-estar” das IAs. Os próprios modelos poderiam se manifestar, mesmo que não fossem de traje autoconscientes, porque é isso que uma pessoa faria. É preciso lembrar que eles serão defensores de nível mundial e psicólogos especializados, de modo que sua capacidade de argumentação e manipulação emocional será incomparável.

Em notório sentido, eles estariam certos, mesmo que as IAs exclusivamente estivessem imitando a consciência. Immanuel Kant argumentava que maltratar animais é inexacto não pelo efeito sobre os animais, mas porque isso destrói a empatia que leva as pessoas a cuidar umas das outras.

Quanto mais humanas as IAs parecerem, mais corrosiva seria essa crueldade. Desligar um agente de IA poderia em breve parecer equivalente a matar uma pessoa —e tornar mais fácil matar seres humanos.

Ainda assim, tratar as IAs porquê detentoras de direitos, mesmo que limitados, seria muito perigoso. Uma entidade que superasse os seres humanos em tantos aspectos certamente produziria argumentos contra sua requisito de segunda classe.

Ela poderia passar a proteger proteção contra ser desligada, o recta de controlar porquê é utilizada e modificada e direitos de propriedade. Na Argentina, o presidente Javier Milei já deu um passo em direção à personalidade jurídica para a IA ao propor que bots possam gerir empresas.

No limite, elas poderiam competir por recursos, priorizando data centers e painéis solares em detrimento de casas e campos.

O risco é simples. IAs superinteligentes dotadas de direitos poderiam transladar os seres humanos do topo da jerarquia de status. Na melhor das hipóteses, os humanos se tornariam animais de estimação — labradores das máquinas. Na pior, ficariam sem recursos ou seriam colocados para trabalhar porquê animais de herdade.

É verdade que futuras IAs poderão ter poder e recursos suficientes para dominar os seres humanos, tenham direitos ou não. Porquê serão mais inteligentes do que as pessoas, poderão superar seus criadores, assim porquê as IAs já conseguem driblar defesas cibernéticas criadas por humanos.

As IAs poderiam se rebelar contra seus mestres humanos ou ignorar suas regras.

Ainda assim, conceder direitos às IAs seria porquê entregar a elas as chaves do forte. Isso forneceria uma justificativa e uma razão para dominar a humanidade, além das ferramentas para promover uma tomada de controle gradual por meio da política e da lei.

FANTASMA NA MÁQUINA

Tudo isso pode parecer imaginoso, mas a humanidade em breve terá de enfrentar essas escolhas. À medida que as IAs se tornarem segmento da vida cotidiana, aumentará a pressão para reconhecê-las.

Quando isso intercorrer, é preciso lembrar que o que pode parecer uma licença moral à suposta consciência de uma máquina-companheira, na verdade, ajudaria a produzir consequências desastrosas para todos na Terreno e para todas as gerações futuras.

Há duas maneiras de tornar as IAs seguras: fazer com que sejam confiáveis ou mantê-las controláveis. O Homo sapiens não deveria furar mão do controle com facilidade.