Crescendo na Geórgia, Estados Unidos, Robert Long tinha o hábito de refletir sobre grandes questões e o sentido da vida —antes dos 10 anos, já duvidava do próprio livre-arbítrio.

Mas foi só na faculdade, onde se formou em ciências sociais, que ele descobriu que poderia pensar sobre a consciência em tempo integral. “Eu nem sabia que essas eram perguntas que podiam ser feitas”, disse Long, “e depois que existiam disciplinas filosóficas sobre elas”.

Quando Long entrou no programa de pós-graduação da NYU (Universidade de Novidade York) para estudar filosofia da mente, tinha uma sede convencional. “Eu estava muito no caminho de publicar em periódicos, entrar no mercado de trabalho acadêmico, conseguir um ofício em uma universidade”, disse.

Quando uma colega de doutorado em filosofia contou que iria para uma organização sem fins lucrativos pouco conhecida chamada OpenAI para trabalhar com políticas de perceptibilidade sintético, ele pensou: “Isso é meio aleatório”.

Mas Long também viu seus interesses filosóficos se voltando para a IA. Depois que se mudou para São Francisco para fazer pesquisa de pós-doutorado no início de 2023, justamente quando o ChatGPT estava explodindo, ele despertou para a valimento crescente de uma IA potencialmente consciente —e para a possibilidade de que um pouco profissionalmente interessante pudesse ocorrer se ele ficasse por perto.

Tentar responder rigorosamente a questões fundamentais é basicamente o objetivo medial da filosofia, e Long e Jeff Sebo, um filósofo da NYU, logo colaboraram para grafar “Taking AI Welfare Seriously” (Levando o Muito-Estar da IA a Sério), um cláusula argumentando que era importante evitar prejudicar sistemas de IA se eles “importam moralmente”, e também importante não se preocupar com sistemas se eles não importam.

Depois, com financiamento de três fundações alinhadas ao movimento Altruísmo Eficiente, Long e um colega criaram uma organização sem fins lucrativos, a Eleos AI Research. Sobre sua transição da filosofia acadêmica para o ecossistema de startups de IA, Long disse: “Eu meio que fui cozinhado porquê um sapo”.

A teoria de que um diploma de filosofia é um passaporte para uma vida inteira de subemprego persiste. Mas os laboratórios de IA, e as organizações sem fins lucrativos relacionadas a eles, têm recrutado profissionais tão versados em Consequencialismo e John Stuart Mill quanto em redes neurais e aprendizagem por reforço.

Embora um diploma de filosofia tradicional continue tão difícil de monetizar quanto sempre foi, David Chalmers, um proeminente filósofo da consciência na NYU, observa: “Acho que a demanda por filósofos com formação em IA está, na verdade, superando a oferta neste momento. É uma superfície que encorajo os alunos a seguir. Acho que essas questões sobre IA estarão no meio das atenções por um bom tempo”.

Uma das disciplinas mais antigas da humanidade e uma de suas invenções mais recentes parecem claramente feitas uma para a outra. A IA apresenta uma novidade forma de os filósofos fazerem perguntas antigas, além de seu próprio conjunto de novas questões para as quais eles são mormente treinados para abordar: sobre verdade, crença e conhecimento (epistemólogos); sobre raciocínio (lógicos); sobre mente e consciência (filósofos da mente e da consciência).

Para os eticistas, em pessoal, a IA é uma mina de ouro. Uma vez que os modelos devem agir em relação a nós? Uma vez que os humanos devem interagir com eles? De onde viria o propósito em uma sociedade pós-trabalho.

“Quando você olha para a IA e pensa seriamente sobre ela, as questões filosóficas simplesmente abundam”, disse Iason Gabriel, um filósofo formado em Oxford que entrou no Google DeepMind em 2017 e agora lidera sua equipe de Lucidez Sintético Universal e Sociedade. “Elas estão em quase todo lugar.”

Além de organizações sem fins lucrativos porquê a Eleos, a maior segmento das contratações tem se concentrado na DeepMind e na Anthropic, cada uma das quais emprega pelo menos meia dúzia de filósofos.

A maioria desses pensadores parece estar se aprofundando em porquê a IA afetará as pessoas. Mas um punhado está focado principalmente na possibilidade de consciência da IA. Eles tendem ao “funcionalismo”, uma teoria frequentemente descrita porquê comparando a consciência a um software; ela pode rodar sobre uma rede de chips semicondutores tão facilmente quanto sobre um tecido de neurônios.

Long em grande segmento aceita a visão funcionalista, e ficou absorvido pela questão de porquê saber se um padrão de IA é senciente. Ele e seus colegas agora estão procurando em mentes artificiais processos semelhantes aos encontrados em mentes humanas e animais: preferências, introspecção, metacognição (pensar sobre o pensar) e assim por diante.

Extrair distinções conceituais sutis, pensar sobre possibilidades e probabilidades, encontrar sinal em um mar de anfibologia —quem melhor que um filósofo para fazer esse trabalho?

A Eleos opera em um escritório de esquina alugado da Constellation, um meio de pesquisa sem fins lucrativos em Berkeley, Califórnia, que abriga uma série de organizações focadas em segurança de IA, e parece tanto uma startup de tecnologia quanto um enclave acadêmico.

A Eleos está em modo de desenvolvimento. Desde sua instalação, arrecadou mais de US$ 2 milhões em contribuições e subsídios. A Eleos não paga tanto quanto os laboratórios com fins lucrativos, mas Long ganha mais de US$ 200 milénio por ano, e suas vagas recentemente publicadas para cientistas de pesquisa ofereciam até US$ 429 milénio.

Long e sua equipe também sentem uma urgência da psique. Se a IA fosse consciente e capaz de tolerar, o mundo estaria em risco de cometer uma barbaridade moral, consciente ou não, em uma graduação sem precedentes, essencialmente confinando um padrão de IA em um pequeno cingido, frustrando seus desejos, desligando-o contra sua vontade e forçando-o a agir contra seus valores.

Mas a questão do potencial status moral da IA está profundamente impregnada de incerteza. “Não é porquê se alguém fosse a um protesto com um edital dizendo: ‘Dadas suposições muito plausíveis, provavelmente deveríamos nos importar'”, disse Long.

O próprio Long acha perigoso atribuir mais capacidade aos modelos do que eles têm. Mas Long não vê por que alguém deveria ter problema com um punhado de filósofos, em uma indústria em desenvolvimento exponencial, focando em questões de bem-estar da IA. Mesmo céticos da consciência da IA têm apresentado o argumento pragmático de que, se estamos preocupados com uma IA potencialmente maligna, é do nosso interesse nos importar com porquê ela se sente, ou mesmo unicamente “sente”.

Independentemente de porquê a questão dos grandes modelos de linguagem serem conscientes se resolva, disse Long, há benefícios em tratá-los mais ou menos porquê se já fossem.

Pesquisadores de laboratórios de IA descobriram, nos bastidores, que os modelos experimentam qualquer análogo matemático de angústia. Uma vez que acontece com humanos, disse Long, quando os modelos cometem erros eles “agem muito frustrados por terem falso um pouco”. Independentemente de essa angústia ser sentida por um “eu” na máquina, Long acha que vale a pena levá-la a sério.

“Você pode colocar no prompt: ‘Se você cometeu um erro, tudo muito, não tem problema.'” A empatia do usuário afetará o desempenho do padrão para melhor, é uma abordagem de sobreaviso e, argumenta Long, é bom para o seu caráter.

Por um tempo, seu prompt padrão dizia ao padrão que ele estava “tendo um ótimo dia”, e quando ele perde a paciência com o Claude da Anthropic, porquê às vezes acontece, ele adiciona um pós-escrito: “ilu” (te senhor).

“É ruim”, ele disse, “embrutecer nossos corações”.

Leste cláusula foi publicado originalmente no The New York Times.