Cada vez mais, um monte de respostas sintéticas geradas por lucidez sintético vagam por nossos feeds e nossas buscas. Os riscos vão muito além do que está em nossas telas. Toda a cultura está sendo afetada pela lucidez sintético, uma infiltração insidiosa em nossas instituições mais importantes.
Falemos da ciência. Logo posteriormente o lançamento estrondoso do GPT-4, o mais recente protótipo de lucidez sintético da OpenAI e um dos mais avançados atualmente, a linguagem da pesquisa científica começou a se transformar. Principalmente dentro do campo da própria lucidez sintético.
Um novo estudo neste mês examinou as revisões por pares dos cientistas —pronunciamentos oficiais dos pesquisadores sobre o trabalho dos outros que formam a base do progresso científico— em várias conferências científicas de prestígio que estudam lucidez sintético. Em uma dessas checagens, essas revisões usaram a vocábulo “minusioso” quase 3.400% mais do que as avaliações do ano anterior. O uso de “louvável” aumentou tapume de 900% e “intrincado” em mais de 1.000%. Outras conferências importantes mostraram padrões semelhantes.
Tais formulações são, é evidente, algumas das palavras da tendência favoritas dos modernos modelos de linguagem porquê o ChatGPT. Em outras palavras, um número significativo de pesquisadores em conferências de lucidez sintético foram pegos entregando suas revisões por pares do trabalho dos outros para a lucidez sintético —ou, no mínimo, escrevendo-os com muita assistência da lucidez sintético. E quanto mais próximo de finalizar o prazo, mais as revisões enviadas tinham uso de lucidez sintético.
Se isso te deixa desconfortável —principalmente por motivo da falta de confiabilidade da lucidez sintético— ou se você acha que talvez não deveria ser a lucidez sintético revisando a ciência, mas sim os próprios cientistas, esses sentimentos destacam o paradoxo no debate dessa tecnologia: Não está evidente qual é a traço moral entre fraude e uso regular.
Algumas fraudes geradas por lucidez sintético são fáceis de identificar, porquê o item de revista médica com um rato de gravura entusiasmado exibindo genitália enorme. Muitas outras são mais complicadas, porquê o caminho regulatório mal rotulado e tresloucado descrito no mesmo item —um item que também foi revisado por pares (talvez, poderíamos especular, por outra lucidez sintético?).
E quando a lucidez sintético é usada de uma das maneiras pretendidas em sua geração —para ajudar na escrita? Recentemente, houve um alvoroço quando ficou óbvio que simples buscas em bancos de dados científicos retornavam frases porquê “Porquê um protótipo de linguagem de lucidez sintético” em lugares onde os autores que dependiam da lucidez sintético haviam esquecido de ocultar seus rastros. Se os mesmos autores tivessem simplesmente extinto essas “digitais” acidentais, o uso de lucidez sintético para ortografar seus artigos teria sido admissível?
O que está acontecendo na ciência é um microcosmo de um problema muito maior. Postar nas redes sociais? Qualquer post viral no X (ex-Twitter) agora quase certamente inclui respostas geradas por lucidez sintético, desde resumos do post original até reações escritas na voz insossa da Wikipedia do ChatGPT, tudo para lucrar seguidores.
O Instagram está se enchendo de modelos gerados por lucidez sintético, e o Spotify, com músicas geradas por lucidez sintético. Publicar um livro? Em breve, na Amazon, muitas vezes aparecerão coleções geradas por lucidez sintético à venda que supostamente acompanham seu livro (que estão incorretos em seu teor; eu sei porque isso aconteceu comigo).
Os principais resultados de procura do Google agora são na maioria das vezes imagens ou artigos gerados por lucidez sintético. Grandes veículos de mídia porquê a Sports Illustrated têm criado artigos feitos com a lucidez sintético atribuídos a perfis de autores também falsos. Os profissionais de marketing que vendem métodos de otimização de mecanismos de procura se gabam francamente de usar lucidez sintético para produzir milhares de artigos spam para roubar tráfico de concorrentes.
E há o crescente uso de lucidez sintético generativa para produzir vídeos prontos e baratos para crianças no YouTube. Alguns exemplos de saídas são horrores porquê videoclipes sobre papagaios onde as aves têm olhos dentro de olhos, bicos dentro de bicos, se transformando de forma inacreditável enquanto cantam em uma voz sintético “O papagaio na árvore diz olá, olá!”
As narrativas não fazem sentido, personagens aparecem e desaparecem aleatoriamente, informações básicas porquê os nomes das formas estão errados. Depois que identifiquei vários canais suspeitos em minha newsletter, The Intrinsic Perspective, o site Wired encontrou evidências do uso de lucidez sintético generativa na produção de algumas contas com centenas de milhares ou até milhões de inscritos.
Porquê neurocientista, isso me preocupa. Não é verosímil que a cultura humana contenha em si micronutrientes cognitivos —coisas porquê frases coesas, narrativas e ininterrupção de personagens— que os cérebros em desenvolvimento precisam? Supostamente, Einstein disse: “Se você quer que seus filhos sejam inteligentes, leia para eles contos de fadas. Se você quer que eles sejam muito inteligentes, leia mais contos de fadas.”
Mas o que acontece quando uma menino pequena está consumindo principalmente papinha de sonhos gerada por lucidez sintético? Nos encontramos no meio de um vasto experimento de desenvolvimento.
Há tanto lixo sintético na internet agora que as empresas de IA e os pesquisadores estão preocupados, não com a saúde da cultura, mas com o que vai sobrevir com seus modelos. À medida que as capacidades da lucidez sintético aumentaram em 2022, escrevi sobre o risco de a cultura se tornar tão inundada com criações de IA que, quando futuras IAs fossem treinadas, o protótipo anterior iria para o conjunto de treinamento, levando a um porvir de cópias de cópias de cópias, à medida que o teor se tornava cada vez mais estereotipado e previsível.
Em 2023, os pesquisadores introduziram um termo técnico para porquê esse risco afetava o treinamento de IA: colapso do protótipo. De certa forma, nós e essas empresas estamos no mesmo navio, remando através da mesma lodo que flui para o nosso oceano cultural.
Com essa semelhança repugnante em mente, vale a pena olhar para o que é, sem incerteza, a semelhança histórica mais clara para nossa situação atual: o movimento ambiental e as mudanças climáticas. Assim porquê empresas e indivíduos foram levados a poluir pela inexorável economia disso, também a poluição cultural da IA é impulsionada por uma decisão racional de preencher o gosto voraz da internet por teor da forma mais barata verosímil.
Embora os problemas ambientais estejam longe de serem resolvidos, houve um progresso inegável que manteve nossas cidades em sua maioria livres da fumaça da poluição e nossos lagos em sua maioria livres de esgoto. Porquê?
Antes de qualquer solução política específica, houve o reconhecimento de que a poluição ambiental era um problema que precisava de legislação externa. Influente para essa visão foi uma perspectiva desenvolvida em 1968 por Garrett Hardin, um biólogo e ecologista. Hardin enfatizou que o problema da poluição era impulsionado por pessoas agindo em seu próprio interesse, e que, portanto, “estamos presos em um sistema de ‘sujar nosso próprio ninho’, enquanto nos comportarmos unicamente porquê agentes independentes, racionais e livres”.
Ele resumiu o problema porquê uma “tragédia dos normais”. Essa formulação foi fundamental para o movimento ambiental, que passaria a depender da regulamentação governamental para fazer o que as empresas sozinhas não poderiam ou não fariam.
Mais uma vez nos encontramos promovendo uma tragédia dos comuns: o interesse próprio econômico de limitado prazo incentiva o uso de teor barato de IA para maximizar cliques e visualizações, o que por sua vez polui nossa cultura e até enfraquece nossa compreensão da verdade. E até agora, as principais empresas de lucidez sintético estão se recusando a buscar maneiras avançadas de identificar o trabalho de IA—o que poderiam fazer adicionando padrões estatísticos sutis escondidos no uso de palavras ou nos pixels de imagens.
Uma justificativa generalidade para a passividade é que os editores humanos sempre poderiam mexer com quaisquer padrões implementados se soubessem o suficiente. No entanto, muitos dos problemas que estamos enfrentando não são causados por atores maliciosos motivados e tecnicamente habilidosos; em vez disso, são causados principalmente pelo vestuário de os usuários regulares não aderirem a uma traço de uso ético tão fina a ponto de ser praticamente inexistente. A maioria não estaria interessada em contramedidas avançadas para padrões estatísticos impostos em saídas que, idealmente, deveriam marcá-los porquê gerados por IA.
É por isso que os pesquisadores independentes foram capazes de detectar o uso de lucidez sintético no sistema de revisão por pares com uma precisão surpreendentemente subida: eles realmente tentaram. Da mesma forma, neste momento, professores em todo o país criaram métodos de detecção de uso caseiros, porquê juntar solicitações ocultas de padrões de utilização de palavras a tarefas de redação que aparecem unicamente quando copiadas e coladas.
Em privado, as empresas de lucidez sintético parecem se opor a quaisquer padrões embutidos em suas respostas que possam melhorar os esforços de detecção de IA para níveis razoáveis, talvez porque temem que a imposição de tais padrões possa interferir no desempenho do protótipo ao restringir demais suas respostas —embora não haja evidências atuais de que isso seja um risco. Apesar de promessas públicas anteriores de desenvolver marcações mais avançadas, está cada vez mais evidente que a relutância e a procrastinação das empresas se devem ao vestuário de que isso vai contra o resultado final da indústria de IA ter produtos detectáveis.
Para mourejar com essa recusa corporativa em tomar providências, precisamos do equivalente a um ato de ar limpo: um ato de internet limpa. Talvez a solução mais simples seja forçar com leis a marcação avançada intrínseca às saídas geradas, porquê padrões não facilmente removíveis. Assim porquê o século 20 exigiu intervenções extensas para proteger o envolvente compartilhado, o século 21 vai requerer intervenções extensas para proteger um recurso generalidade dissemelhante, mas também crítico, um que não percebemos até agora, pois nunca esteve sob ameaço: nossa cultura humana compartilhada.
