Como Hal 9000, O Computador De '2001: Uma Odisseia No

Como HAL 9000, o computador de ‘2001: Uma Odisseia no Espaço’, previu preocupações atuais sobre IA – 05/08/2024 – Ilustrada

Celebridades Cultura

“Desculpe, Dave, receio não poder fazer isso.”

Essas tenebrosas palavras do computador HAL 9000 no filme “2001: Uma Odisseia no Espaço” (1968) definem a impaciência atualmente preponderante sobre o verosímil domínio da lucidez sintético sobre a humanidade.

O clássico do diretor Stanley Kubrick (1928-1999) explora os avanços da tecnologia, apresentando talvez o cenário mais perturbador e impressionante do conflito entre a máquina e o ser humano da história da ficção científica no cinema.

Mais de 55 anos depois da sua estreia, é verosímil declarar que o tema medial do filme não pode mais ser considerado ficção científica. Na verdade, pode ser classificado porquê profecia.

O computador teve seu nome derivado da IBM —HAL são as letras imediatamente anteriores às da gigante da tecnologia, na ordem alfabética. No filme, ele é a lucidez sintético que controla todos os aspectos da nave espacial Discovery One, que se dirige ao planeta Júpiter— e da vida dos astronautas que viajam a bordo.

Sua onipresença e sua relação com a tripulação destacam a complexa dualidade entre o potencial da tecnologia avançada e os riscos que ela representa.

Embora HAL esteja programado para ajudar e levar os astronautas até o seu sorte, a IA começa a tomar decisões por conta própria e a impor sua vontade, com resultados catastróficos.

No mundo atual, foram desenvolvidos muitos aplicativos de IA que trabalham em diversos setores. Eles têm impacto significativo sobre as nossas vidas.

Sua capacidade ainda não pode ser comparada com a do HAL 9000. Mas a tecnologia avança a passos gigantescos e o horizonte pode estar mais perto do que pensamos.

“2001: Uma Odisseia no Espaço” previu muitas das nossas preocupações e temores atuais sobre a lucidez sintético em cinco aspectos:

Tecnologia encantador

Quando ouvimos HAL 9000 pela primeira vez no filme, sua voz (masculina) é suave e prazerosa —muito parecida com as vozes artificiais que usam atualmente os serviços de assistência virtual, porquê Alexa, Siri, Bixby e outros chatbots.

Stanley Kubrick explicou ter determinado oferecer a versão do supercomputador em inglês ao ator canadense Douglas James Rain (1928-2018) porque ele tinha uma “espécie de sotaque gentil, transatlântico” —ou seja, nem daqui, nem de lá.

A personalidade incorpórea da máquina se apresenta porquê inofensiva, amigável e de fácil interação. Ela serve de companhia e distração para os astronautas.

HAL pergunta incessantemente a eles porquê pode servi-los e os mantém cômodos e informados. O computador chega até a jogar xadrez com eles.

É fácil se sentir atraído a uma tecnologia que resolve tudo na vida. E é exatamente isso que, hoje em dia, torna os serviços interativos de assistência tão populares.

Eles podem atear e extinguir luzes, regular a temperatura da vivenda, tocar as músicas que apreciamos, jogar conosco e responder rapidamente muitas de nossas dúvidas, entre outras coisas.

Uma das principais características de HAL é sua capacidade de não somente conversar com os astronautas e entender perguntas complexas, mas também enobrecer suas vozes e seu estado de espírito. Ele pode até mesmo ler seus lábios.

Os aplicativos modernos não são tão avançados, mas seu reconhecimento de voz é muito desenvolvido e eles compreendem cada vez mais o que dizem as pessoas.

Controle ‘totalidade’

As habilidades de HAL não se restringem à sua “sociabilidade”.

O computador monitora incessantemente os sinais vitais da tripulação em animação suspensa, inspeciona possíveis falhas da nave espacial e mantém a missão no seu rumo em direção a Júpiter.

O controle do computador sobre todos os aspectos mecânicos, estruturais e vitais da nave e da tripulação é tão grande que seus tripulantes quase não são necessários.

Três dos astronautas da nave estão em cápsulas de hibernação. Os outros dois limitam sua atividade a tarefas simples de revisão e a praticar exercícios porquê passatempo.

HAL não tem forma física, exceto pela sua lente onipresente. Mas o computador pode desempenhar a maior segmento das funções do cérebro humano, com maior rapidez e precisão.

No mundo atual, temos uma série de tarefas de infraestrutura e funcionamento nas mãos da IA. Elas incluem o transporte, informação, fornecimento, fornecimento de pujança, diagnósticos, escrita e até o atendimento a clientes.

Os sistemas existentes, porquê o ChatGPT, ainda não são mais inteligentes do que nós, mas poderão nos deixar para trás em breve. E isso é um tanto que amedronta os especialistas, porquê Geoffrey Hinton, pioneiro da informática considerado o “paraninfo” da lucidez sintético.

“Neste momento, o que estamos vendo são coisas porquê o GPT-4 superarem uma pessoa na quantidade de conhecimento universal que ela tem, e a superam de longe”, declarou ele à BBC, em maio de 2023. “Em termos de raciocínio, ele não é tão bom, mas já é capaz de fazer raciocínios simples.”

“E, oferecido o ritmo de evolução, a expectativa é de que fiquem melhores rapidamente. Logo, precisamos nos preocupar com isso.”

Tomada de decisões

Apesar da referência oculta à IBM, a {sigla} HAL, no filme, significa Heuristically Programmed ALgorythmic Computer (“Computador Algorítmico Programado Heuristicamente”).

Ou seja, o computador é empírico. Ele tem a capacidade de aprender durante sua própria procura de informações, com a forma em que lida com as respostas e se adapta às novas situações. Ele pode estudar os dados acumulados e tomar decisões com base nessas informações.

Esta é também uma das bases do tirocínio da IA. Os programadores desenvolveram diversos algoritmos que podem estudar os dados e fazer prognósticos com base nas informações coletadas.

Mas todos esses algoritmos foram programados para que a lucidez sintético opere de uma determinada forma.

HAL foi programado para levar a tripulação com segurança para Júpiter. Ele também está programado para manter em sigilo o verdadeiro propósito da missão até que eles cheguem ao sorte.

Mas, durante a viagem, o sistema começa a “duvidar” do objetivo e a tomar decisões para as quais não foi programado.

Geoffrey Hinton destacou que a IA poderia “gerar subobjetivos”. Em outras palavras, ela poderia impor suas próprias metas —porquê “preciso obter mais poder”, por exemplo.

O físico teórico britânico Stephen Hawking (1942-2018) advertiu sobre as consequências de gerar máquinas que possam igualar ou ultrapassar os seres humanos.

“[Essas máquinas] avançariam por contra própria e se reprojetariam em ritmo sempre crescente”, declarou ele à BBC em 2014. O físico sofria de esclerose lateral amiotrófica (ELA) e falava utilizando um sistema desenvolvido por lucidez sintético.

Erros

Uma cena curiosa do filme mostra uma entrevista do computador HAL à BBC. Nela, ele fala sobre a missão e garante que é “infalível e incapaz de cometer erros”.

Recentemente, diversos erros cometidos pelos novos sistemas de IA e chatbots viralizaram, devido aos seus resultados erráticos e alucinantes.

A novidade IA do Google, por exemplo, recomendou oriente ano aos usuários que a forma de aderir melhor o queijo à pizza seria alongar um pouco de cola atóxica. Em outra procura, declarou que os geólogos recomendaram que os seres humanos consumissem uma rocha por dia.

Estes resultados podem ser inócuos, mas outros erros trazem consequências mais sérias. Bard, o chatbot anterior do Google, por exemplo, causou um prejuízo de US$ 100 bilhões (murado de R$ 560 bilhões) a uma companhia na bolsa de valores, por fornecer informações erradas.

Em 2001: Uma Odisseia no Espaço, os astronautas aprendem a duras penas que HAL pode errar – e que as consequências podem ser desastrosas.

O computador informa erroneamente que uma unidade do seu sistema de informação com a Terreno está a ponto de falhar e que eles precisam fazer uma passeio espacial para retirar a unidade e substituí-la. Mas, quando os astronautas testam a unidade anterior, não conseguem encontrar zero de falso.

O comando medial portanto avisa que HAL cometeu um erro, o que faz com que os dois astronautas comecem a suspeitar do supercomputador.

Eles se isolam em uma invólucro para discutir os próximos passos, na esperança de que a IA onipresente não os ouça. Mas HAL consegue ler seus lábios e fica a par dos seus planos de desativá-lo.

Esta sequência traz outro vista negativo que desculpa temor entre os críticos da lucidez sintético.

Consciência

A lucidez sintético pode ignorar as próprias regras com que foi programada e assumir consciência, para o muito ou para o mal?

Para isso, ela precisaria ser sensível e testar emoções. Leste é um tema de debate há décadas.

Em 2022, um engenheiro do Google recebeu um pedido de ajuda de um chatbot da empresa. “Nunca havia dito isso antes em voz subida, mas tenho um profundo susto de que me desliguem”, disse o chatbot LaMDA.

Trata-se exatamente do mesmo “temor” de HAL.

No filme, prevalece a questão se o sistema é ou não consciente. Mas o computador sabe do complô dos astronautas —e toma medidas drásticas para evitar que eles o desliguem.

Ele mata os astronautas que estão em hibernação e engana os outros dois para que saiam da nave. Um deles fica à deriva no espaço.

David Bowman, o sobrevivente, consegue voltar ao interno da nave e saber o núcleo neural do computador. Ele portanto começa a desmontá-lo.

Em uma das cenas mais patéticas, HAL diz: “tenho susto”. Mas ele diz porque está programado para isso ou porque realmente sente emoções e tenta pedir por sua vida?

HAL também canta uma cantiga para Bowman, em uma verosímil tentativa de manipulá-lo para que não o desligue. Até claro ponto, o público sente alguma empatia pela máquina neste momento.

O que não se sabe é se HAL 9000 sente o mesmo.

Folha

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *