Quando a imagem falsa do papa Francisco vestido com um sobretudo rechonchudo branco viralizou em março de 2023, fazia três anos que o Vaticano havia se apresentado porquê mediador internacional do debate sobre lucidez sintético.
Publicado porquê Apelo de Roma pela Moral na IA, o documento lançado em 2020 por um dos órgãos da Cúria Romana tenta desde logo atrair empresas, governos e outras religiões para o compromisso de uma responsabilidade coletiva no desenvolvimento e uso dessa tecnologia.
A iniciativa, que conta com escora de companhias porquê IBM, Microsoft e Cisco, terá um marco histórico em junho, durante a próxima reunião de cúpula do G7. O papa Francisco foi convidado a participar do evento, justamente no grupo devotado à lucidez sintético.
Será a primeira vez de um pontífice no encontro que reúne, desde os anos 1970, algumas das maiores economias do mundo.
O invitação à Francisco partiu de Giorgia Meloni, primeira-ministra da Itália, onde a reunião acontecerá entre os dias 13 e 15 de junho. Ao anunciar a presença do papa e a atenção que a presidência italiana do G7 pretende dar ao tema, a premiê classificou a lucidez sintético porquê o “maior duelo antropológico desta era”, o qual deve ser enfrentado de forma coletiva.
“É fundamental valorizar as melhores reflexões éticas e intelectuais que estão sendo desenvolvidas. Uma vez que o trajectória lançado pela Santa Sé em 2020, que procura impor de forma concreta o concepção de ‘algorética’, ou seja, dar uma moral aos algoritmos”, disse Meloni.
Em linhas gerais, o Apelo de Roma –que difundiu o termo “algorética”– pede que os signatários se comprometam em desenvolver sistemas de IA que tenham benefícios para todos, sem que o único objetivo seja procura por lucros ou a substituição da mão de obra humana.
O documento lista seis tópicos: transparência, inclusão e imparcialidade, para que os sistemas sejam compreensíveis, acessíveis e não criem preconceitos; responsabilidade, para que haja sempre um humano que responda pela operação de máquinas; confiabilidade e reverência à privacidade.
“A Igreja procura diálogo para que o instrumento IA não seja um tanto somente técnico, mas que saiba dar centralidade a princípios que protejam os mais frágeis”, diz à Folha o padre Paolo Benanti, diretor científico da instauração do Vaticano que se dedica ao tema, a Renaissance. O órgão é vinculado à Pontifícia Ateneu para a Vida, onde nasceu o Apelo de Roma.
Mais que tutelar uma risca própria de abordagem, a Igreja tem intenção de produzir oportunidades para debates e comprometimentos. “O documento não é um tratado lítico. É um chamado que pretende lançar um processo ético de mudança”, diz Benanti, que é consultor técnico do papa e membro de comissões do governo italiano e da ONU.
Uma das principais preocupações da Igreja, afirma, é que a IA não seja um multiplicador de desigualdades. Segundo o religioso, a participação de Francisco no G7 deverá sustar traços de suas intervenções recentes, que chamam atenção para a centralidade do varão em relação à máquina e a justiça social.
Nos últimos anos, o papa abordou o tema em muro de 20 discursos. Um dos mais importantes é a mensagem para o Dia Mundial da Tranquilidade, publicada em dezembro e inteiramente dedicada à IA.
“Os desafios que ela coloca não são somente de ordem técnica, mas também antropológica, educacional, social e política. A lucidez sintético deveria estar a serviço de um melhor potencial humano e das nossas mais altas aspirações, e não em competição com eles”, diz o texto.
“O papa convida governos e instituições ao estabelecimento de regras éticas, à definição de uma regulamentação única. Para que o desenvolvimento não seja só em obséquio do lucro, mas traga facilidades para os mais necessitados”, diz Giovanni Tridente, professor e responsável do livro “Anima Digitale – La Chiesa alla Prova dell’Intelligenza Artificiale” (espírito do dedo, a Igreja à prova da IA), lançando em 2022.
Na mensagem para sossego, Francisco cita alguns desses benefícios, defendendo que a IA seja regulamentada não só para a prevenção de aplicações inadequadas, mas para o incentivo a soluções criativas para as pessoas. “A IA poderia introduzir inovações importantes na cultura, na instrução e na cultura.”
No G7, Tridente acredita que o prateado dará próprio ênfase aos impactos no mercado de trabalho e à honra dos trabalhadores.
“Proteger o trabalho não significa deixar de impor a lucidez sintético porque alguns empregos vão vanescer, mas fazer com que haja um planejamento de novos postos de trabalho.”
Francisco pode ainda fazer uma reflexão sobre a qualidade das relações entre as pessoas, que não devem ser substituídas pelas máquinas.
Da mesma forma com que faz apelos quase diários pela sossego, com comentários sobre os conflitos na Ucrânia e em Gaza, e dá próprio atenção em seu papado a temas ambientais, Francisco procura se colocar porquê mando moral também em relação à lucidez sintético.
Segundo Tridente, as bases teológicas para esse posicionamento são descritas pelo papa João 23, que com uma encíclica, documento escrito pelo pontífice, em 1961 dizia que a Igreja é “mãe e professora” da humanidade. “Nesse sentido, a Igreja quer escoltar a humanidade também nesse progresso, para que traga cada vez mais benefícios, ao mesmo tempo em que zela por riscos e perigos”, afirma.
Mais especificamente, João Paulo 2º passou a olhar para questões de robótica nos anos 1980, quando já dizia que o varão deveria estar no núcleo do processo e não porquê vítima.
Diferentemente de outros tópicos contemporâneos, porquê a brecha da Igreja às mulheres e à comunidade LGBTQIA+, a lucidez sintético e a forma porquê Francisco trata do tópico não estão entre os assuntos divisivos entre o clero.
“É uma visão muito equilibrada. De um lado, exclui o exaltação excessivo e o roupa de se deixar levar totalmente pelas empresas desenvolvedoras. De outro, evita desabar no catastrofismo que teme pela substituição da raça humana. A visão apocalíptica existe em segmento da sociedade, mas não na Igreja”, diz Tridente.
