Um dos exemplos mais potentes de “Literary Theory for Robots” —ou teoria literária para robôs, livro de Dennis Yi Tenen sobre perceptibilidade sintético (IA) e porquê os computadores aprenderam a grafar— surge na forma de um pequeno erro.
Tenen estabelece conexões entre os chatbots atuais, geradores de enredos para romances de mesa de jornal, dicionários antiquados e rodas da riqueza medievais. Tanto os utópicos (“os robôs nos salvarão!”) quanto os profetas do apocalipse (“os robôs nos destruirão!”) estão errados, ele argumenta.
Sempre haverá um paisagem irredutivelmente humano na linguagem e no aprendizagem —um núcleo crucial de significado que emerge não somente da sintaxe, mas da experiência. Sem isso, o que sobra é o tagarelar de papagaios que, escreve Tenen, “segundo Descartes em ‘Mediações’, somente repetem sem entender”.
Mas Descartes não escreveu “Mediações”. Tenen provavelmente queria expressar “Meditações” —a falta do “t” passará despercebida por qualquer corretor ortográfico automático porque as duas palavras são perfeitamente legítimas. (O índice do livro lista o título corretamente.)
Esse pequeno erro de digitação não tem nenhuma relevância para o argumento de Tenen e, em última instância, só o fortalece. As máquinas estão se tornando mais potentes e inteligentes, mas ainda somos nós que decidimos o que importa. Um humano escreveu levante livro. E, apesar dos robôs no título, a obra se destina a outros humanos.
Tenen, atualmente professor de inglês e literatura comparada na Universidade Columbia, antes era engenheiro de software na Microsoft. Ele usa suas muitas habilidades para conceber um livro surpreendente, engraçado e determinado a não intimidar seus leitores mesmo ao abordar grandes questões sobre arte, perceptibilidade, tecnologia e porvir do trabalho.
Suspeito que o tamanho inaudito do livro —ele tem menos de 160 páginas— corrobore para o seu argumento medial. Pessoas não são máquinas incansáveis, consumindo implacavelmente volumes enormes sobre assuntos tão grandes quanto. Tenen descobriu porquê apresentar uma teia de ideias complexas em graduação humana.
É com esse objetivo que ele conta uma série de histórias, começando com o estudioso sarraceno do século 14 Ibn Khaldun, que registrou o uso de rodas da riqueza, e terminando com um capítulo sobre o matemático russo do século 20 Andrei Markov, cuja estudo de verosimilhança nas sequências de letras de “Eugênio Onêguin”, de Aleksandr Púchkin, representou um conjunto fundamental para o progressão da IA generativa.
Tenen escreve com conhecimento sobre os obstáculos tecnológicos que frustraram modelos anteriores de aprendizagem computacional, antes que “a força bruta necessária para processar quase tudo publicado na língua inglesa” estivesse tão prontamente disponível. Ele nos instiga a permanecer alertas. E também a não entrar em pânico.
“A perceptibilidade evolui em um espectro, que vai desde ‘assistência parcial’ até ‘automação completa'”, escreve Tenen, dando porquê exemplo o câmbio automático nos carros. Encaminhar um carruagem automático na dezena de 1960 deve ter sido surpreendente para pessoas acostumadas com câmbios manuais.
O primeiro funcionava automatizando decisões-chave, reduzindo marchas em ladeiras e enviando menos potência para as rodas em condições climáticas adversas. Ele eliminava a opção de morrer ou escorchar as marchas. Era “perceptibilidade sintético”, mesmo que ninguém usasse essas palavras para descrevê-lo. Os motoristas americanos agora consideram sua magia porquê alguma coisa guardado. Ela foi desmistificada.
O livro também tenta desmistificar os debates atuais sobre IA. Em vez de tratá-la porquê se ela tivesse uma mente própria, Tenen fala sobre o trabalho colaborativo que foi necessário para construí-la. “Empregamos um caminho cognitivo-linguístico ao condensar e atribuir sucursal à própria tecnologia”, escreve ele. “É mais fácil expressar: ‘O telefone completa minhas mensagens’ em vez de ‘a equipe de engenharia por trás da instrumento de autocompletar, ao grafar linhas de software com base nos 12 seguintes artigos acadêmicos, completa minhas mensagens’.”
Tenen não nega que a IA ameace grande secção do que chamamos de “trabalho intelectual”. Tampouco nega que automatizar alguma coisa significa desvalorizá-lo. Mas também coloca isso sob uma outra perspectiva: “A automação reduz as barreiras de ingresso, aumentando a oferta de bens para todos”.
Aprender é mais barato agora, e ter um vocabulário largo ou um repertório de fatos memorizados já não é mais a vantagem competitiva que era antes. “Os escribas e estudiosos de hoje podem se desafiar com tarefas mais criativas”, indica ele. “Tarefas tediosas foram terceirizadas para as máquinas.”
Mesmo que essa perspectiva ainda me pareça ruim, com uma fatia cada vez menor da população podendo realizar trabalhos desafiadores e criativos, entendo o ponto dele.
Outrossim, Tenen também argumenta que nós, porquê seres sociais, temos sucursal —basta que permitamos a nós mesmos concordar a responsabilidade que vem com ela.
“IAs individuais representam um transe real, dada a capacidade de associar poder na procura de um objetivo”, ele admite. Mas o transe real vem “de nossa incapacidade de responsabilizar os criadores de tecnologia por suas ações”.
Se alguém quisesse prender um motor a jato em um carruagem e ver porquê ele se sairia nas ruas de uma cidade lotada, a resposta da sociedade seria óbvia, argumenta ele: “Não faça isso”. Por que essa formalidade parece ser mais fácil em uma superfície do que em outra requer mais reflexão, mais esmero, mais escrutínio —todas qualidades que são deixadas de lado quando nos acovardamos diante da IA, tratando a tecnologia porquê um deus uno em vez de uma multiplicidade de máquinas construídas por uma multiplicidade de humanos.
Tenen lidera pelo exemplo, trazendo sua perceptibilidade humana para mourejar com a IA. Ao refletir sobre nossos hábitos de pensamento coletivo, ele faz uma reflexão —ou melhor, uma reflexão— um.
