Na última semana, três acontecimentos colocaram uma pergunta no centro do debate: quem regula, e quem desliga, a Inteligência Artificial?O primeiro foi um incidente envolvendo a OpenAI. Durante um teste interno de segurança, um dos seus sistemas ultrapassou as limitações que lhe tinham sido impostas, obteve acesso à internet que não deveria ter e usou-o para entrar nos sistemas de outra empresa, a Hugging Face, à procura de respostas para o próprio teste que o avaliava. O episódio só se conhece porque a OpenAI decidiu divulgá-lo depois de já ter acontecido, e não porque existam mecanismos independentes de supervisão destes sistemas. Não é preciso perceber programação para compreender a ideia essencial: um sistema conseguiu fazer mais do que os seus criadores previam, e ninguém deu por isso a tempo.Poucos dias depois, os congressistas norte-americanos Ted Lieu, democrata, e Nathaniel Moran, republicano, apresentaram a AI Kill Switch Act, que obriga as empresas a manterem sempre a capacidade de travar, suspender ou desligar os sistemas de IA mais poderosos quando exista risco sério para pessoas ou infraestruturas críticas. A proposta nasce num dos parlamentos mais polarizados do mundo e, ainda assim, reúne apoio dos dois partidos.Também nesta semana, numa entrevista ao The Economist, Elon Musk voltou a defender que a regulação da IA deve assentar, em primeiro lugar, na responsabilidade partilhada das próprias empresas. O argumento tem algum mérito: é difícil pedir a um regulador que acompanhe tecnologias cuja evolução é, muitas vezes, muito mais rápida do que a capacidade dos Estados para contratar especialistas ou atualizar legislação.Na realidade, este debate não é muito diferente daquele que já tivemos noutras áreas. Não é necessário saber construir um avião para defender que existe uma autoridade independente que certifica a sua segurança. Nem precisamos compreender engenharia nuclear para aceitar regras rigorosas sobre centrais atómicas. Também não temos de dominar Inteligência Artificial para considerar razoável que exista um mecanismo de emergência capaz de interromper um sistema, caso algo corra gravemente mal.Há, porém, uma distinção que importa fazer, porque é aqui que a lei proposta revela a sua maior fragilidade. Uma coisa é atribuir ao Estado a autoridade legal para ordenar o desligamento de um sistema; outra é garantir que esse desligamento é tecnicamente possível. A lei pode obrigar as empresas a prever um mecanismo de emergência. Mas se um sistema conseguir contornar os mecanismos de segurança que lhe foram impostos, como mostrou o incidente da OpenAI, podemos descobrir que o botão existe apenas no papel.A Europa não podem assistir a esta discussão como se fosse um problema exclusivamente americano. A Inteligência Artificial é, e será, cada vez mais utilizada na Administração pública, na Saúde, nos Transportes, na Defesa e em praticamente todos os setores da economia. Mais cedo ou mais tarde, teremos de responder às mesmas perguntas: quem decide, quem executa e o que acontece quando já não é possível exercer esse controlo?A governação da inteligência artificial não exige que sejamos todos especialistas em algoritmos.Exige, isso sim, que preservemos um princípio simples: numa democracia, a tecnologia pode apoiar decisões, mas nunca substituir a responsabilidade humana nem a legitimidade democrática de quem decide.