Em nossas vidas diárias, o uso de programas de perceptibilidade sintético uma vez que o ChatGPT se tornou frequente.
Estudantes os utilizam para produzir trabalhos acadêmicos. Funcionários de escritório os pedem para organizar calendários e ajudar a grafar relatórios. Pais os solicitam para gerar histórias personalizadas para dormir para crianças pequenas.
Dentro de nossos cérebros, uma vez que o uso persistente da IA molda a mente permanece incerto.
À medida que nossa submissão de ter vasto conhecimento rapidamente sintetizado ao nosso alcance aumenta, os cientistas estão correndo para entender uma vez que o uso frequente de programas de grandes modelos de linguagem, ou LLMs, está afetando nossos cérebros —investigando preocupações de que eles enfraquecem as habilidades cognitivas e sufocam a variedade de nossas ideias.
Manchetes proclamando que a IA está nos tornando estúpidos e preguiçosos viralizaram neste mês em seguida o lançamento de um estudo do MIT Media Lab. Embora os pesquisadores alertem que levante estudo e outros na superfície não tiraram conclusões definitivas sobre se a IA está remodelando nossos cérebros de maneiras perniciosas, o trabalho do MIT e outros pequenos estudos publicados neste ano oferecem sugestões inquietantes.
Uma pesquisa no Reino Uno com mais de 600 pessoas, publicada em janeiro, encontrou uma “reciprocidade negativa significativa entre o uso frequente de ferramentas de IA e habilidades de pensamento crítico”, já que usuários mais jovens, em pessoal, frequentemente dependiam dos programas uma vez que substitutos, e não instrumentos suplementares, para tarefas rotineiras.
A Wharton School da Universidade da Pensilvânia publicou um estudo na semana passada que mostrou que estudantes do ensino médio na Turquia com entrada a um tutor no estilo ChatGPT tiveram um desempenho significativamente melhor na solução de problemas práticos de matemática. Mas quando o programa foi retirado, eles tiveram um desempenho pior do que os alunos que não usaram nenhum tutor de IA.
E o estudo do MIT que ganhou enorme atenção —e alguma reação negativa— envolveu pesquisadores que mediram a atividade cerebral principalmente de estudantes universitários enquanto usavam o ChatGPT para grafar redações durante três sessões. O trabalho deles foi comparado ao de outros que usaram o Google ou zero. Os pesquisadores equiparam 54 escritores de redações com toucas cobertas por eletrodos que monitoram os sinais elétricos no cérebro.
Os dados revelaram que os escritores que usaram o ChatGPT exibiram o menor engajamento cerebral e “consistentemente tiveram um desempenho subalterno nos níveis neural, linguístico e comportamental”, de consonância com o estudo.
Por termo, eles entregaram redações que soavam semelhantes e careciam de toques pessoais. Professores de inglês que leram os trabalhos os chamaram de “sem psique”. O grupo “somente cérebro” mostrou as maiores ativações neurais e conexões entre regiões do cérebro que “se correlacionavam com memória mais poderoso, maior precisão semiologia e maior propriedade do trabalho escrito”.
Em uma quarta sessão, os membros do grupo ChatGPT foram convidados a reescrever uma de suas redações anteriores sem a instrumento, mas os participantes se lembraram pouco de seu trabalho anterior.
Céticos apontam para inúmeras limitações. Eles argumentam que a conectividade neural medida por EEG não indica necessariamente cognição deficiente ou saúde cerebral. Para os participantes do estudo, as apostas também eram baixas —a ingresso na faculdade, por exemplo, não dependia da desenlace das redações. Aliás, somente 18 participantes retornaram para a quarta e última sessão.
A pesquisadora-chefe do MIT, Nataliya Kosmyna, reconhece que o estudo foi restringido em escopo e, ao contrário das manchetes virais da internet sobre o cláusula, não estava avaliando se o ChatGPT nos está tornando burros. O cláusula não foi revisado por pares, mas sua equipe divulgou descobertas preliminares para iniciar uma conversa sobre o impacto do ChatGPT, particularmente em cérebros em desenvolvimento, e os riscos da moral do Vale do Silício de lançar tecnologia poderosa rapidamente.
“Talvez não devêssemos empregar essa cultura cegamente em espaços onde o cérebro é frágil”, disse Kosmyna em entrevista.
A OpenAI, a empresa californiana que lançou o ChatGPT em 2022, não respondeu aos pedidos de comentários (o Washington Post tem uma parceria de teor com a OpenAI).
Michael Gerlich, que liderou o estudo de pesquisa do Reino Uno, chamou a abordagem do MIT de “pomposo” e disse que mostrou que a IA está sobrecarregando o que é sabido uma vez que “descarregamento cognitivo”, onde usamos uma ação física para reduzir as demandas em nosso cérebro.
Mas, em vez de descarregar dados simples —uma vez que números de telefone que antes memorizávamos, mas agora armazenamos em nossos telefones— as pessoas que dependem de LLMs descarregam o processo de pensamento crítico. O estudo sugeriu que pessoas mais jovens e com menos instrução são mais rápidas em descarregar o pensamento crítico para LLMs porque têm menos crédito em suas habilidades. (“Tornou-se secção de uma vez que eu penso”, disse um estudante mais tarde aos pesquisadores.)
“É um grande protótipo de linguagem. Você pensa que é mais inteligente que você. E você adota isso”, disse Gerlich, professor na SBS Swiss Business School em Zurique.
Ainda assim, Kosmyna, Gerlich e outros pesquisadores alertam contra tirar conclusões abrangentes —nenhum estudo de longo prazo foi concluído sobre os efeitos da tecnologia nascente na cognição. Os pesquisadores também enfatizam que os benefícios da IA podem, em última estudo, superar os riscos, libertando nossas mentes para enfrentar pensamentos maiores e mais ousados.
O susto de que a tecnologia altere nossos cérebros não é novidade. Sócrates alertou que a escrita nos faria olvidar. Em meados da dez de 1970, professores temiam que calculadoras baratas pudessem tirar dos alunos a capacidade de fazer contas simples. Mais recentemente, o surgimento dos motores de procura gerou medos de “amnésia do dedo”.
“Não faz tanto tempo que todos nós estávamos em pânico de que o Google estava nos deixando burros, e agora que o Google faz mais secção de nossas vidas cotidianas, não parece tão terrível”, disse Samuel J. Gilbert, professor de neurociência cognitiva na University College London. “O ChatGPT é o novo níveo para algumas das preocupações. Precisamos ser muito cuidadosos e equilibrados na maneira uma vez que interpretamos essas descobertas” do estudo do MIT.
O cláusula do MIT sugere que os escritores de redações com ChatGPT ilustram “dívida cognitiva”, uma quesito na qual a submissão de tais programas substitui os processos cognitivos que exigem esforço e são necessários para o pensamento independente. As redações se tornam tendenciosas e superficiais.
A longo prazo, essa dívida cognitiva pode nos tornar mais fáceis de manipular e sufocar a originalidade.
Mas Gilbert argumenta que o estudo do MIT com escritores de redações também poderia ser visto uma vez que um exemplo do que ele labareda de “efusão cognitivo”, ou descartar algumas informações para liberar largura de orquestra mental para pensamentos potencialmente mais ambiciosos.
“Só porque as pessoas dedicaram menos esforço mental para grafar as redações que os experimentadores lhes pediram, isso não é necessariamente uma coisa ruim”, disse ele. “Talvez elas tivessem coisas mais úteis e valiosas que poderiam fazer com suas mentes.”
Especialistas sugerem que talvez a IA, a longo prazo e implementada corretamente, provará aumentar, e não substituir, o pensamento crítico.
O estudo da Wharton School com quase milénio estudantes do ensino médio turcos também incluiu um grupo que teve entrada a um programa de tutoria no estilo ChatGPT com salvaguardas internas que forneciam dicas elaboradas por professores, em vez de dar as respostas prontas. Esses alunos tiveram um desempenho extremamente bom e fizeram aproximadamente o mesmo que os alunos que não usaram IA quando foram solicitados a resolver problemas sem ajuda, mostrou o estudo.
Mais pesquisas são necessárias para as melhores maneiras de moldar os comportamentos dos usuários e gerar programas LLM para evitar danos às habilidades de pensamento crítico, disse Aniket Kittur, professor do Instituto de Interação Humano-Computador da Carnegie Mellon University. Ele faz secção de uma equipe que cria programas de IA projetados para atear faíscas criativas, não para produzir resultados acabados, mas sem perdão.
Um programa, denominado de BioSpark, visa ajudar os usuários a resolver problemas por meio da inspiração no mundo procedente —por exemplo, gerar um suporte de bicicleta melhor para montar em carros.
Em vez de uma interface de texto sem perdão, o programa pode exibir imagens e detalhes de diferentes espécies animais para servir de inspiração, uma vez que a forma das pernas de um sapo ou a viscosidade do muco de um caracol que poderia espelhar um gel para manter as bicicletas seguras. Os usuários podem percorrer pesquisas científicas relevantes, salvando ideias à la Pinterest, e logo fazer perguntas mais detalhadas ao programa de IA.
“Precisamos de novas formas de interagir com essas ferramentas que desbloqueiem esse tipo de originalidade”, disse Kittur. “E logo precisamos de formas rigorosas de medir o sucesso dessas ferramentas. Isso é um tanto que só se pode fazer com pesquisa.”
A pesquisa sobre uma vez que os programas de IA podem aumentar a originalidade humana está se expandindo dramaticamente, mas não recebe tanta atenção por motivo do zeitgeist da tecnologia da população, disse Sarah Rose Siskind, escritora de ciência e comédia baseada em Novidade York que consulta empresas de IA.
Siskind acredita que o público precisa de melhor instrução sobre uma vez que usar e pensar sobre a IA — ela criou um vídeo sobre uma vez que usa a IA para expandir seu repertório de piadas e perceber novos públicos. Ela disse que também tem um cláusula de pesquisa horizonte explorando a utilidade do ChatGPT na comédia.
“Posso usar a IA para entender meu público com mais empatia e experiência do que nunca”, disse Siskind. “Logo, há todas essas novas fronteiras da originalidade. Isso realmente deveria ser enfatizado.”
Parece que o debate sobre os efeitos da IA na cognição humana está somente começando. Você acha que a IA, no final das contas, nos tornará mais ou menos inteligentes?
