Quando uma estação de rádio polonesa financiada pelo Estado cancelou um programa semanal com entrevistas com diretores de teatro e escritores, o apresentador do programa saiu em silêncio, resignado às realidades da indústria de mídia de golpe de custos e mudanças de gostos que se afastam da cultura erudita.
Mas sua resignação se transformou em fúria no final de outubro, depois que sua antiga empregadora, a Off Radio Krakow, transmitiu o que chamou de “entrevista única” com um ícone da cultura polonesa, Wislawa Szymborska, vencedora do Prêmio Nobel de Literatura de 1996.
O apresentador deposto, Lukasz Zaleski, disse que teria convidado Szymborska para seu programa matutino, mas nunca o fez por uma razão simples: ela morreu em 2012.
A estação usou IA (perceptibilidade sintético) para gerar a recente entrevista —um exemplo dramático e, para muitos, ultrajante de tecnologia substituindo humanos, até mesmo os mortos.
Zaleski admitiu que a versão gerada por computador da voz distintiva da poeta era suasivo. “Foi muito, muito boa”, disse ele, mas “eu fui ao funeral dela, portanto sei com certeza que ela está morta.”
A ressurreição tecnológica da poeta falecida foi segmento de um experimento inovador da Off Radio Krakow, um braço do sistema de radiodifusão pública da Polônia na cidade de Cracóvia. O objetivo era testar se a IA poderia reviver uma estação sítio moribunda que tinha “quase zero” ouvintes, segundo o dirigente da rádio pública em Cracóvia.
A estação também planejava entrevistas do além com outras pessoas falecidas, incluindo Jozef Pilsudski, líder da Polônia quando o país recuperou sua independência em 1918.
O valor da novidade —e uma tempestade de indignação pública— ajudou a aumentar a audiência da Off Radio Krakow, que, segundo o dirigente da Rádio Cracóvia, saiu da noite para o dia de exclusivamente um punhado de pessoas para 8 milénio ouvintes posteriormente a introdução de três apresentadores da Geração Z gerados por IA —Emilia, 20, Jakub, 22, e Alex, 23, cada um com uma retrato e biografia geradas por computador.
Menos bem-vinda do que o aumento da audiência, no entanto, foi uma enxurrada de abusos direcionados ao sistema de radiodifusão pública acusando-a de “sacrificar humanos” no altar da tecnologia.
“Fui transformado em um monstro que mata empregos e quer substituir pessoas reais por avatares”, disse Mariusz Marcin Pulit, editor-chefe da Rádio Cracóvia e de estações de nicho operando sob seu guarda-chuva, porquê a Off Radio Krakow.
Ele insistiu que nunca foi sua intenção substituir pessoas por máquinas, e que seu único objetivo era reviver a Off Radio Krakow, torná-la mais simpático para ouvintes mais jovens e estimular o debate sobre IA enquanto o parlamento da Polônia discute novidade legislação para regular seu uso.
A tecnologia usada para gerar a falsa entrevista com Szymborska e outros programas, acrescentou, tem sido amplamente utilizada: ChatGPT da Open AI, software de síntese de voz desenvolvido pela ElevenLabs e os programas de geração de imagens da Leonardo.Ai.
Mas as garantias de Pulit não acalmaram a raiva pública —e o jactância de que os humanos estão sendo retirados do roteiro.
Entre os indignados com o experimento de Pulit estava Jaroslaw Juszkiewicz, jornalista de rádio cuja voz foi usada por mais de uma dezena para guiar motoristas usando a versão polonesa do Google Maps. Sua substituição por uma voz metálica gerada por computador em 2020 gerou fúria nas redes sociais, levando o Google a restaurá-lo, pelo menos por um tempo.
Ele anunciou na semana passada que havia sido retirado novamente, lamentando que a IA estava “varrendo o mundo do trabalho de voz humana porquê um rolo compressor gigante.” Juszkiewicz continuou: “E eu posso, com minha própria voz humana, manifestar, provavelmente pela última vez: ‘Sorria lindamente e siga para o sul.’”
Em um post no Facebook, ele disse que o uso de IA para falsificar uma entrevista com a falecida vencedora do Prêmio Nobel o deixou sem palavras. “Se isso não é uma violação da moral jornalística, não sei o que é.”
Cansado de ser indiciado de querer tornar os humanos redundantes, Pulit recentemente encerrou seu experimento de IA.
“Somos pioneiros, e o rumo dos pioneiros pode ser difícil”, disse ele em uma mensagem recente aos membros da equipe anunciando uma interrupção abrupta dos apresentadores de IA e sua substituição por música criada e executada por humanos.
Entre os apresentadores de IA removidos da Off Radio Krakow estava Alex Szulc, uma pessoa inexistente que havia sido apresentada porquê uma progressista não-binária “enxurrada de compromisso social.”
Uma biografia no site da estação foi posteriormente reescrita para excluir qualquer menção à orientação sexual do apresentador depois que ativistas LGBTQIA+ reclamaram furiosamente que precisavam de uma pessoa real para falar por eles, não uma gerada por computador.
Também saiu Emilia Nowak, a “técnico em cultura pop” gerada por computador da estação, que conduziu a “entrevista” com a poeta falecida. A estação primeiro anunciou a conversa porquê se fosse uma entrevista real, mas depois esclareceu que havia sido fabricada por uma máquina.
Michal Rusinek, dirigente de uma instalação que administra o espólio literário da falecida vencedora do Prêmio Nobel, disse que havia oferecido permissão à Off Radio Krakow para usar a voz de Szymborska para o segmento porque a poeta “tinha siso de humor e acharia engraçado.”
Mas ele disse que a entrevista “foi horroroso” e colocou palavras na boca da poeta que ela nunca teria usado, fazendo-a toar “insípida”, “ingênua” e de “nenhum interesse”. Mas isso, acrescentou, foi encorajador porque “mostra que a IA ainda não funciona” tão muito quanto os humanos.
“Se a entrevista tivesse sido realmente boa”, acrescentou ele, “seria aterrorizante.”
Felix Simon, responsável de um relatório publicado em fevereiro sobre o efeito da IA no jornalismo, disse que o experimento polonês não alterou sua visão de que a tecnologia “ajuda os trabalhadores de notícias em vez de substituí-los.”
Por enquanto, afirmou que “ainda há razão para crer que não trará a grande eliminação de empregos que algumas pessoas temem.”
Para muitos na Polônia que criticam a flerte da Off Radio Krakow com a IA, o uso de apresentadores gerados por computador pela estação, embora agora suspenso, destacou um risco grave e inesperado.
