Financial Times
“Não sei uma vez que vamos reagir”, disse ele a Kenny Malone, do Planet Money, da NPR. “Centena anos detrás, C.S. Lewis escreveu um livro chamado Cartas de um diabo a seu novato, sobre um demônio no inferno cuja função é grafar cartas para seu encarregado, um demônio de cocuruto escalão, um gerente, relatando suas tentativas de peitar uma pessoa na terreno. E há uma missiva em que eles dizem: ‘Ótima notícia. Meu humano acaba de lucrar uma invenção chamada telefone’.”

E o que há de inexacto com o telefone, alguém poderia perguntar? Clark lembra que o demônio mais jovem explica: “Sempre que meu humano está sozinho e, de outra forma, refletiria sobre si mesmo e se aproximaria de Deus, ele pega o telefone e liga para os amigos, o que o aproxima do inferno. Portanto, o que isso acerta e o que erra? O que acerta é que coisas uma vez que os telefones realmente mudaram profundamente a maneira uma vez que as pessoas se relacionam umas com as outras.”

Clark certamente tem razão ao proferir que os telefones nos mudaram. Em 1975, um grande incêndio em uma médio telefônica no Lower East Side, em Manhattan, interrompeu mais de 100 milénio linhas telefônicas —potencialmente por meses, embora o serviço tenha sido restabelecido depois murado de três semanas. Pouco depois da retomada, dois pesquisadores de mídia, Alan Wurtzel e Colin Turner, entrevistaram algumas centenas das pessoas afetadas e perguntaram uma vez que elas haviam se sentido sem um telefone funcionando e quais implicações isso havia tido.

Dois terços dos entrevistados disseram que a falta de telefone os deixou “isolados” ou “inquietos”, e mais da metade afirmou ter sentido as duas coisas. Muitos lamentaram a perda da possibilidade de fazer e receber ligações de amigos e familiares. Por outro lado, um terço das pessoas afirmou que, durante o período em que as linhas estavam fora do ar, passou a visitar outras pessoas pessoalmente com mais frequência; a mesma proporção disse ter recebido mais visitas.

Há cá uma dificuldade que vale observar. Uma vez que escreveu o investigador político Robert Putnam em “Jogando Boliche Sozinho” (2000), “socialmente falando, o telefone tanto dá quanto tira”. O incêndio de 1975 demonstrou que “o telefone parece reduzir tanto a solidão quanto a socialização presencial”.

Muita coisa mudou desde 1975, mas a desfecho de Putnam continua plausível. O telefone, assim uma vez que todas as tecnologias hiperconectadas que vieram depois, tem dois lados.

“A cada passo, a IA nos confronta com resumos elegantes, mas esquecíveis, e invenções confiantes e plausíveis”

Duvido que C.S. Lewis tivesse ficado surpreso. As Cartas de um diabo a seu novato estão cheias de descrições de situações que poderiam também aproximar os seres humanos de Deus ou da perdição. Gostar-se, explica o demônio veterano Fitafuso, “é simplesmente uma ocasião que nós e o Inimigo estamos tentando explorar”. O mesmo vale para a guerra. Até mesmo o vício pode aproximar uma pessoa de Deus, ao provocar reflexão e compunção. Se paixão, guerra e vício são armas de dois gumes, não deveríamos nos surpreender ao desenredar que o mesmo vale para o telefone —ou para a lucidez sintético.

Por que, portanto, C.S. Lewis teria dito que o telefone era um estrada para o inferno? Os fãs de Lewis já devem ter adivinhado a resposta: ele não disse. Jack Clark havia se lembrado de forma equivocada de quase todas as suas afirmações. Lewis não escreveu As Cartas de um diabo a seu novato (1942) um século detrás; as cartas não são escritas por um demônio novato, mas endereçadas a ele por seu tio, Fitafuso. E não há nenhuma menção ao telefone.

Sem querer criticar Clark com muita severidade por ter se equivocado durante uma conversa no palco —isso acontece facilmente—, há um tanto magnificamente simbólico em ouvir uma domínio em IA generativa produzir uma sequência de afirmações encantadoras, instigantes e convincentes sobre C.S. Lewis, todas factualmente incorretas. O Planet Money acrescentou uma “correção” à gravação da conversa, observando que C.S. Lewis havia “falado sobre os aspectos negativos dos aparelhos, incluindo o rádio” em “uma missiva privado dissemelhante”.

Curioso para saber exatamente o que C.S. Lewis havia dito sobre o rádio, fui detrás de uma citação amplamente atribuída a ele —um juízo irônico sobre uma vez que evitar Deus: “Concentre-se em numerário, sexo, status, saúde e, supra de tudo, em suas próprias queixas. Mantenha o rádio ligado. Viva no meio de uma poviléu. Use bastante sedação.”

Mas onde ele escreveu originalmente essas palavras? Colei a citação no Google, mas, antes mesmo de qualquer resultado de procura, a IA Gemini, do Google, se apressou em me informar: “Você está citando ou parafraseando de perto C.S. Lewis em As Cartas de um diabo a seu novato”. Boa tentativa, demônio veterano; as palavras foram escritas duas décadas depois de Screwtape.

Se o telefone pode nos conectar, mas também nos alongar uns dos outros, o que devemos pensar da IA generativa? Eu diria que ela nos conecta —e também nos afasta— dos fatos. Quem já pediu a um padrão de linguagem de grande graduação que produza um relatório de pesquisa sabe uma vez que os resultados podem ser impressionantes: abrangentes, completos, repletos de links úteis e rápidos. É uma utensílio de pesquisa que rivaliza com o Google e, antes dele, com o catálogo de uma livraria.

E, ainda assim, a cada passo —e agora, a cada procura no Google—, a IA nos confronta com resumos elegantes, mas esquecíveis, e invenções confiantes e plausíveis. Os defensores da IA continuam me dizendo que essas ficções quase não acontecem mais. Meus próprios olhos, que não mentem, contam uma história dissemelhante.

Em outras palavras, o telefone facilita o contato superficial. Isso pode ser o primórdio de uma relação humana mais significativa ou pode substituí-la. Os grandes modelos de linguagem oferecem a mesma tentação quando se trata de comprar conhecimento. Uma pesquisa superficial se torna fácil. Nós permitimos que ela catalise uma investigação e uma compreensão mais profundas? Ou deixamos que as substitua?

A escolha é nossa. Colocada dessa maneira, a questão chega perto de ser moral. Podemos facilmente imaginar o que Fitafuso teria pensado disso.

Meu dispendioso Vermebile,

Fico satisfeito em saber que o paciente se apaixonou pela máquina. Não tente convencê-lo de que ela é infalível. Essa abordagem malcriada não resistirá por muito tempo ao contato com as evidências esmagadoras em contrário.

Você precisa ser mais sutil. Ele aprenderá a hesitar dela, sim, mas sua suspicácia pode ser mantida em um nível teórico. É fácil transformá-la em descaramento, um óptimo estado de coisas do nosso ponto de vista. Questões sobre fatos específicos são o que deve ser evitado. Queremos que ele seja complacente, não curioso.

Incentive-o a sentir que checar os fatos é uma ineficiência pedante que está aquém dele. Deixe-o gozar de sua preguiça e chamá-la de produtividade. Os humanos há muito tendem a confundir ter uma resposta com encontrar a verdade. Esse é o jogo.

Seu afetuoso tio,

FITAFUSO