Recorrer a um chatbot (porquê o ChatGPT, Gemini ou Claude) em procura de terapia, ou até mesmo de um novo companheiro, pode toar porquê uma história controversa dos nossos tempos, coisa do século 21.
Mas não é uma questão exatamente inédita.
Desde os anos 1950, a trajetória da lucidez sintético tem sido marcada pelos mesmos dilemas: susto de que máquinas substituam humanos, a tendência de humanizar a tecnologia, o apego emocional que muitas pessoas desenvolvem por ela e as promessas ambiciosas que raramente se cumprem —mas que continuam a atrair investimentos e atenção.
O cenário do século pretérito e de agora são diferentes, no entanto, em um vista principal: o tanto de verba e recursos que se está investindo nessas tecnologias nos dias atuais.
“Existe uma diferença de que hoje estamos em um contexto do capital financeiro e dos investimentos que essas empresas atraem, o espaço que elas conseguem junto a governos”, disse à BBC News Brasil Bernardo Gonçalves, pesquisador de IA, filósofo e tecnologista do Laboratório Pátrio de Computação Científica (LNCC).
“Mas as questões, eu diria que são as mesmas”, completa.
Em entrevista à reportagem, Gonçalves fez um resgate dos debates históricos em torno da tecnologia, de momentos em que cientistas projetaram o porvir e os problemas da IA —muitos debates que ainda permanecem vivos.
Confira alguns deles a seguir.
O APEGO EMOCIONAL ÀS MÁQUINAS
O professor do MIT e observador Joseph Weizenbaum criou um programa, ainda na dezena de 60, que é hoje considerado o primeiro chatbot a se tornar publicado no mundo.
Batizado de Eliza, o programa rodava em um computador IBM 7094, uma máquina de grande porte, que à estação custava milhões de dólares, e era capaz de simular conversas.
O programa seguia um conjunto de regras pré-definidas para explorar o que era digitado e responder de forma automática.
No fundo, a máquina não entendia o que estava sendo dito, mas imitava uma conversa.
Em um dos testes, Weizenbaum programou Eliza para agir porquê uma terapeuta. O chatbot reformulava o que o “paciente” dizia, transformando frases em perguntas, o que criava a ilusão de diálogo.
PACIENTE: Meu namorado me fez vir cá.
ELIZA: Seu namorado te fez vir cá.
PACIENTE: Ele diz que estou deprimida a maior secção do tempo.
ELIZA: Lamento que você esteja deprimida.
Naquela estação, porquê relatou Weizenbaum em um capítulo de livro, alguns pesquisadores começaram a prever que, no porvir, máquinas poderiam oferecer terapia de verdade, até mesmo em hospitais.
O próprio fundador da tecnologia se espantou com essa possibilidade. “Sem incerteza há técnicas para facilitar a projeção do terapeuta na vida do paciente. Mas que fosse provável a um psiquiatra tutelar que esse componente crucial do processo terapêutico pudesse ser substituído, isso eu não tinha imaginado”, escreveu.
O interesse por Eliza era tanto que, certa vez, sua secretária pediu que ele saísse da sala para poder ter uma conversa pessoal com o programa.
“Por mais inteligentes que as máquinas possam vir a ser, há certos atos de pensamento que devem ser tentados exclusivamente por seres humanos”, disse ele no livro “Computer Power and Human Reason”, de 1976.
A tendência de tratar máquinas porquê pessoas
No item considerado pioneiro na discussão sobre IA, “Computing Machinery and Intelligence” (1950), o observador britânico Alan Turing propôs a pergunta que ecoa até hoje: as máquinas podem pensar?
Antecipando objeções que já circulavam na prensa britânica, Turing reuniu no item algumas das críticas mais comuns.
Havia as teológicas, segundo as quais “pensar é uma função da espírito imortal do varão”, e as filosóficas, que argumentavam que “somente quando uma máquina for capaz de redigir um soneto ou inventar um concerto a partir de pensamentos e emoções sentidos —e não pela simples combinação de símbolos— poderemos concordar que ela é igual ao cérebro humano”.
Talvez tenha sido essa última objeção, sobre a consciência e a geração genuína, a que mais inquietou seus contemporâneos.
O pesquisador Bernardo Gonçalves lembra que esses críticos diziam que os termos usados por Turing, que faziam alusões ao cérebro ou ao pensamento humano, eram inadequados.
“O Turing já tinha sido exposto porquê uma pessoa que estimulava o uso de certos termos que outros eram contra, porquê cérebro eletrônico ou se referir à capacidade de armazenamento de uma máquina porquê memória.”
Anos depois da publicação do item de Turing, uma conferência na Dartmouth College, em 1956, ficaria conhecida porquê o momento de promanação do termo IA. E o concepção tentou evitar justamente essa definição que mistura máquinas e mentes humanas.
“Eles definiram o campo porquê: máquinas que se comportam de tal forma que, se fosse um humano, seria dito que são inteligentes”, lembra Gonçalves.
“Essa tradição de antropomorfizar continua até hoje, impulsionada por histórias de Hollywood que combinam a teoria de IA com antigas representações de criações humanas, que de repente ganham vida”, afirma a jornalista Karen Hao em seu livro “Poderio da AI”, que conta a história e os bastidores da geração e evolução da OpenAI, empresa responsável pelo ChatGPT.
“Desenvolvedores de IA falam com frequência sobre porquê seus softwares aprendem, leem ou criam, porquê os humanos. Isso não só alimentou a percepção de que as tecnologias atuais de IA são muito mais capazes do que realmente são, porquê também se tornou uma instrumento retórica para que empresas evitem responsabilidade lítico”, argumenta, citando exemplos de artistas e escritores que processaram essas empresas por não terem oferecido consentimento de uso de suas obras para treinar os modelos de linguagem.
Gonçalves avalia que a sátira de Karen Hao é muito semelhante à feita nos anos 50.
Ele lembra de um debate entre Turing e o matemático Douglas Hartree na dezena de 40, que já foi tema de um de seus artigos.
Em outubro de 1945, poucos meses posteriormente o termo da Segunda Guerra Mundial, Alan Turing foi contratado pelo Laboratório Pátrio de Física britânico (National Physical Laboratory, ou NPL) para liderar o projeto de construção de uma máquina de computação.
A iniciativa buscava solidar a posição do Reino Uno na corrida tecnológica que emergia do pós-guerra.
O projeto recebeu o nome de Automatic Computing Engine (ACE) e se tornaria um dos primeiros computadores eletrônicos programáveis da história.
Era um momento em que governos e cientistas começavam a vislumbrar usos civis e militares para essas novas máquinas capazes de armazenar instruções em memória, progressão decisivo em relação aos computadores criados durante o conflito.
“Depois da guerra se constroem os computadores capazes de armazenar um programa em memória”, lembra Gonçalves. “Havia interesse em financiar esses projetos no contexto militar”.
MÁQUINAS PARA AJUDAR OS HUMANOS OU SUBSTITUÍ-LOS?
Na proposta apresentada ao NPL, Turing incluía algumas das suas primeiras reflexões sobre o porvir da computação. Entre elas, a teoria de que máquinas poderiam aprender tarefas complexas, porquê jogar xadrez.
Já Douglas Hartree era considerado um dos principais especialistas em computação do Reino Uno e se tornaria membro do comitê executivo do próprio Laboratório Pátrio de Física (NPL).
Enquanto Turing olhava para o porvir filosófico das máquinas, tentando compreender se elas poderiam, um dia, pensar, Hartree mantinha a cabeça na emprego prática daquelas invenções.
Em 1946, ele publicou um item na revista Nature advertindo para o uso exagerado de metáforas humanas ao descrever computadores.
“Parece-me que a realce é importante e que o termo cérebro eletrônico a obscurece e é enganoso, pois atribui à máquina capacidades que ela não possui; e é por isso que espero que o uso desse termo seja evitado no porvir”, escreveu.
Hartree temia que expressões porquê essa criassem a ilusão de que as máquinas pudessem replicar a mente humana, confusão que desviaria a atenção do verdadeiro propósito da computação: o de ampliar a capacidade de cômputo e facilitar o raciocínio humano, não substituí-lo.
Turing chegou a prever que seria tão fácil fazer uma pergunta a uma máquina quanto a uma pessoa no porvir. Hartree, por outro lado, via nesse exalo um risco moral e político: acreditava que desprezar a razão humana e superestimar a das máquinas poderia penetrar caminho para formas de autoritarismo, porquê aquelas que a Europa acabara de testemunhar.
Turing, vale lembrar, ajudou os Aliados e teve papel-chave na guerra, ao quebrar o código secreto nazista, que permitiu ler as mensagens navais alemãs cifradas com a máquina Esfinge.
‘SÃO TECNOLOGIAS QUE DESLOCAM PODER’
Para o pesquisador Bernardo Gonçalves, as disputas em torno da IA têm a ver com o poder e quem irá exercê-lo. “Por que temos controvérsia? Essa conformidade com o humano, no fundo, é uma expansão do espaço da máquina na sociedade, que vai impactar no espaço do humano. Por exemplo, no que é um posto de trabalho”, diz.
A própria história da computação, destaca Gonçalves, mostra porquê essas transformações sempre tiveram efeitos sociais concretos. Nos anos 1940 e 1950, o termo “computador” ainda designava pessoas, em próprio mulheres, que realizavam cálculos complexos.
“Temos aí uma informação histórica que funciona porquê uma invólucro do tempo. A própria profissão de computador foi extinta pela construção dessas máquinas”, explica.
Com o progressão da automação, essas tecnologias passaram a concentrar poder e mudar estruturas de trabalho. “Estamos falando de coisas que têm uma repercussão social muito potente e clara”, afirma.
“São tecnologias de automação que deslocam poder, fazem impacto na vida das pessoas, na economia.”
Nos anos 1970, o Reino Uno viveu um “inverno da IA”, posteriormente o matemático James Lighthill publicar um relatório afirmando que o campo “vivia de especulações sem fundamento”.
“Faz-se todo um glamour, mas não se alcançam esses resultados. Promete-se ir muito longe”, afirma Gonçalves. “Alguns pesquisadores começaram a expor: a gente precisa parar de prometer tudo isso, porque depois isso queima a superfície.”
Hoje, segundo ele, o ciclo se repete, agora impulsionado por empresas de tecnologia com alcance global e orçamentos bilionários. “A polarização é tão potente que parece que ou esses sistemas vão logo se transformar em superinteligências e tomar o poder, ou são burros, estúpidos, meros papagaios estocásticos. Mas, na verdade, a superfície segue se desenvolvendo.”
Mesmo com o ceticismo de secção da comunidade científica, Gonçalves destaca que o poder econômico e político dessas corporações sustenta o ritmo das inovações.
“Desde 2022, quando surge o ChatGPT, esses sistemas vêm melhorando. E aí não estou falando do que se promete, mas do que de roupa se observa.”
“É um tipo de pesquisa que, se bem-sucedida, tem impacto muito grande. Você poder automatizar mais e mais atividades intelectuais, de escritório, que foram as mais preservadas da automação das primeiras revoluções industriais, que eram mais mecânicas”, diz
