Quem de nós tomaria uma nova vacina sem saber que foi ela devidamente testada e certificada por uma autoridade? O mesmo princípio deve aplicar-se a alguns sistemas de Inteligência Artificial (IA) usados em saúde ou em áreas de alto risco que afetem direitos fundamentais: confiança exige verificação, não fé.Durante o debate do Regulamento Europeu da IA – que introduziu controlos proporcionais ao risco – ouvi repetidamente afirmar-se que a Europa estaria a “matar a inovação”. É verdade que a lei, para ser eficaz, precisa de ser simples e compreensível, sobretudo para pequenas empresas e startups sem equipas jurídicas sofisticadas. Caso contrário, o receio de incumprimento pode levá-las a não inovar ou a procurar mercados sem regras.Contudo, a narrativa dominante não era a da simplificação. Era a ideia de que bastaria confiar na autorregulação e na ética das empresas – o mesmo argumento usado contra os regulamentos dos serviços digitais. Na visita à sede da Meta, na Califórnia, mostraram-nos até como já “garantiam segurança e integridade”. Porém, dias após a eleição do Presidente Trump, parte dessas garantias ruiu, provando que a autorregulação tem limites muito claros, sobretudo quando confrontada com interesses económicos, e pressões políticas.O recente conflito entre a Anthropic e o governo dos EUA veio demonstrar que os riscos da IA não resultam apenas da tecnologia em si, mas também do poder que Estados e autoridades públicas podem tentar exercer sobre ela. Ou seja, os cidadãos precisam de proteção tanto para sistemas mal concebidos , como para usos abusivos por parte de governos. A empresa recusou dar ao Pentágono acesso irrestrito aos seus modelos e dados internos, alertando para potenciais utilizações militares inadequadas. Em resposta, foi classificada como “risco para a cadeia de abastecimento” e perdeu contratos federais.Este debate ganhou nova profundidade com a encíclica Magnifica Humanitas, apresentada pelo Papa Leão XIV ao lado de Christopher Olah, da Anthropic. Tal como a Rerum Novarum marcou a Revolução Industrial, esta encíclica coloca a IA no centro da nova revolução social. Sem maniqueísmos, o Papa reconhece o potencial transformador da tecnologia, mas critica a concentração de poder e rejeita armas autónomas, lembrando que estas máquinas não têm consciência, nem experiência humana. Olah, por seu lado, admitiu que o setor não pode ser guiado apenas pelo mercado e que vozes morais independentes são essenciais.Num sistema tecnológico que opera à escala planetária, não basta um regulamento europeu eficaz. Se queremos que a IA seja desarmada e permaneça ao serviço da Humanidade, precisamos de uma regulação global, confiável e interoperável, capaz de proteger aquilo que nenhuma inovação pode substituir: a dignidade humana. Sem essa ambição comum, os riscos serão sempre maiores do que as fronteiras que tentam contê-los.