Humanidade e algoritmos: o alerta de Leão XIV ao mundo

Victor Ângelo

Conselheiro em Segurança Internacional. Ex-secretário-geral-adjunto da ONU

Publicado a

Ao publicar a sua primeira encíclica, Magnifica Humanitas, o Papa Leão XIV não nos entregou apenas um documento pastoral. Fez um diagnóstico portentoso sobre a natureza do poder nos dias de hoje. Vejo o texto como um importante manifesto geopolítico sobre possivelmente a maior fonte de poder e de conflito neste século XXI: a Inteligência Artificial (IA).

A encíclica vai muito além da tradicional crítica aos Estados e aponta o dedo às megaempresas de tecnologia enquanto verdadeiros atores políticos e militares. Munidas de mundos e fundos, de meios de pesquisa avançados e de uma extraordinária influência política, estas corporações definem agora prioridades estratégicas que ultrapassam a capacidade de decisão dos próprios governos. Fazem-no à margem de qualquer escrutínio democrático.

O Papa é claro nas suas advertências. A IA está a minar a opinião pública através da desinformação à escala global e a esvaziar-nos da nossa humanidade quando delegamos decisões morais a máquinas. Pior ainda: com a proliferação dos Sistemas de Armas Letais Autónomas (SALA), a IA ameaça a própria lógica da guerra, já de si quase sempre um contrassenso ético. Basta olhar para a tragédia de Minab, no sul do Irão. A 28 de fevereiro, um sistema autónomo de seleção de alvos “decidiu” matar 156 pessoas numa escola primária. É mais uma prova da perigosidade e falibilidade destes sistemas. Álibis para os erros? Bancos de dados desatualizados, modelos enviesados por preconceitos e uma estranha incapacidade de ler o contexto no terreno. Existem vários exemplos onde a alegada “precisão cirúrgica” mais não foi que uma carnificina indiscriminada.

Há um detalhe operacional que não escapou ao Vaticano. Estas plataformas operam a uma velocidade que simplesmente retira o tempo necessário aos militares para avaliarem os alvos. Os operadores correm o risco de se tornar simples validadores formais. Ou seja, invertem-se os papéis: as máquinas viram decisores e os humanos reduzem-se a meros autómatos que clicam no “sim” para aprovar uma escolha feita por um algoritmo. Esta rapidez vertiginosa eliminaria a responsabilidade moral de quem comanda. Aquilo que o Direito Internacional classificaria como um inegável crime de guerra em Minab, Beirute, Gaza, Kiev e mais passa a ser cinicamente arquivado como um “erro de programação”. O Papa afirma que, superada a teoria da “guerra justa”, apenas subsiste um direito muito restrito de legítima defesa, com proporcionalidade ética e sob decisão humana responsável.

Perante isto, e porque a encíclica sublinha a centralidade da paz na ONU, volto a insistir numa proposta que faço frequentemente: a urgência de uma revisão profunda da Carta das Nações Unidas. A nova versão deve mencionar explicitamente as novas ameaças existenciais e fazer adotar um novo princípio vinculativo que torne obrigatória a solidariedade internacional. Ou seja: o avanço tecnológico tem de servir o progresso humano.

No dia seguinte à publicação da encíclica, aconteceu uma coincidência interessante o Conselho de Segurança da ONU reuniu-se para debater vários temas, entre eles a gestão da IA. António Guterres, na sua intervenção, sublinhou que as novas tecnologias avançam mais rapidamente do que a nossa capacidade de as gerir o que cria riscos adicionais e ainda desconhecidos para a paz internacional. Contudo, a tónica da reunião convocada e presidida por Wang Yi, braço-direito de Xi Jinping foi outra.

Wang anunciou a criação da “World AI Cooperation Organization (WAICO)”, que ficará sediada em Xangai. A justificação oficial avançada pela China parece atraente, é fácil de vender: reforçar o multilateralismo. A realidade, porém, é bem diferente. Trata-se de criar um contrapeso direto ao poder digital Ocidental. Na verdade, é mais um passo na estratégia de Pequim para dominar a nova ordem mundial.

Ficam assim frente a frente duas visões opostas. Visto de Pequim, o futuro constrói-se reforçando de modo implacável o poder do Estado. Para os que pensam como Leão XIV, o foco é a sobrevivência da própria condição humana. Para quem apoia o sistema multilateral, a questão já não é debater qual destas visões está certa. É tentar perceber como é que as frágeis instituições globais vão sobreviver ao choque frontal entre as razões de poder e as razões de humanidade.

Tudo se resume à forma como definimos soberania. A China mantém uma visão estritamente westphaliana: o Estado como autoridade soberana última. Mas atenção, isto não é um exclusivo chinês. O realismo geopolítico de Pequim é o espelho exato da doutrina atual na Casa Branca e no Kremlin. Seja a “segurança indivisível” russa, o hipernacionalismo da Administração Trump, o controlo estatal de Xi Jinping ou o expansionismo securitário de Netanyahu, a premissa é a mesma. Todos reduzem a IA a uma mera ferramenta militar, de espionagem e de contraespionagem, e de controlo. Acreditam, ilusoriamente, que o progresso dos algoritmos gera equilíbrio e segurança. A História prova exatamente o contrário. O realismo despido de valores não garante estabilidade. Conduziu sempre, invariavelmente, à ditadura, à confrontação e à guerra.

Contra esta insensatez, Leão XIV contrapõe a defesa sem ambiguidades do humanismo. Não se trata de ingenuidade pacifista ou de uma utopia espiritual. É a convicção pragmática de que a arquitetura internacional tem de ser moldada para preservar a vida, e não para alimentar um darwinismo robotizado entre superpotências e outros Estados belicistas.

É por isso que acredito que o verdadeiro impacto da Magnifica Humanitas se vai sentir fora do eixo tradicional de poder internacional. No Sul Global, o texto será um manifesto valioso contra o colonialismo digital. E mesmo em sociedades não-cristãs no mundo islâmico ou na Ásia , o foco universal na dignidade humana, desprovido de dogmas teológicos, oferece uma plataforma de convergência bastante relevante. Leão XIV deixou um aviso claro: a governação global só terá êxito se nascer de um diálogo que proteja a Humanidade da sua própria desumanização tecnológica.

Diário de Notícias
www.dn.pt