Papa Francisco adverte para riscos da IA na "crescente crise da verdade"

O Papa Francisco alertou esta quinta-feira para os eventuais efeitos nocivos da Inteligência Artificial (IE) na sociedade e no que classifica como a "crescente crise da verdade no espaço público", numa mensagem transmitida ao Fórum Económico Mundial de Davos.

Na mensagem enviada ao fórum anual que reúne as elites política e económica mundiais, divulgada pelo Vaticano, o líder da Igreja Católica observa que o tema da edição deste ano do encontro de Davos (Suíça), "Colaboração para a Era da Inteligência", constitui "uma boa oportunidade para refletir sobre a Inteligência Artificial como ferramenta não só de cooperação, mas também de aproximação entre os povos", dando então conta das suas inquietações.

"A IA destina-se a imitar a inteligência humana que a concebeu, colocando assim um conjunto único de questões e desafios. Ao contrário de muitas outras invenções humanas, a IA é treinada com base nos resultados da criatividade humana, o que lhe permite gerar novos artefactos com um nível de competência e uma velocidade que muitas vezes rivalizam ou ultrapassam as capacidades humanas, suscitando preocupações críticas sobre o seu impacto no papel da humanidade no mundo", comenta Francisco.

O Papa nota então que, "além disso, os resultados que a IA pode produzir são quase indistinguíveis daqueles produzidos pelos seres humanos, o que levanta questões sobre o seu efeito na crescente crise da verdade no espaço público".

"Além disso, esta tecnologia foi concebida para aprender e fazer certas escolhas de forma autónoma, adaptando-se a novas situações e fornecendo respostas não previstas pelos seus programadores, levantando assim questões fundamentais sobre a responsabilidade ética, a segurança humana e as implicações mais vastas destes desenvolvimentos para a sociedade", prossegue o Papa.

De acordo com Francisco, a IA deve fazer parte dos esforços para alcançar "maior justiça, maior fraternidade e uma ordem mais humana de relações sociais", mas, assinala, "existe o risco de a IA ser utilizada para fazer avançar o «paradigma tecnocrático», que considera que todos os problemas do mundo podem ser resolvidos apenas por meios tecnológicos".

"Neste paradigma, a dignidade humana e a fraternidade são frequentemente subordinadas à procura da eficiência, como se a realidade, a bondade e a verdade emanassem intrinsecamente do poder tecnológico e económico. No entanto, a dignidade humana nunca deve ser violada em nome da eficiência", defende.

O pontífice argumenta que "os desenvolvimentos tecnológicos que não melhoram a vida de todos, mas que, pelo contrário, criam ou agravam as desigualdades e os conflitos, não podem ser considerados um verdadeiro progresso", pelo que "a IA deve ser colocada ao serviço de um desenvolvimento mais saudável, mais humano, mais social e mais integral".

"Para navegar nas complexidades da IA, os governos e as empresas devem exercer a devida diligência e vigilância. Devem avaliar criticamente as aplicações individuais da IA em contextos específicos, a fim de determinar se a sua utilização promove a dignidade humana, a vocação da pessoa humana e o bem comum", recomenda o Papa no final da sua mensagem ao Fórum Económico Mundial, que decorre até sexta-feira na localidade suíça de Davos.