Sei muito pouco sobre Inteligência Artificial. Mas sei o suficiente sobre a gestão do risco para achar significativo que algumas das pessoas que mais sabem sobre o assunto, incluindo responsáveis pelas empresas que desenvolvem os sistemas mais avançados, estejam a pedir regulação pública.
A ideia de regulação da IA não deveria surpreender. Todas as atividades com potencial para provocar impactos negativos significativos nas sociedades são reguladas. Acontece com a indústria automóvel, os bancos, a energia ou o abastecimento de água potável. São essenciais para o nosso dia a dia, mas os seus benefícios coexistem com riscos que não afetam apenas quem os produz ou utiliza.
E, como observou Bill Gates, não esperamos que um remédio provoque danos para depois responsabilizarmos o laboratório, nem que um avião caia para discutirmos as regras da aviação.
Quando as consequências podem ser graves, precisamos de regras antes de alguma coisa correr mal.
Há, porém, uma questão essencial. Se a Inteligência Artificial vai influenciar o emprego, a Educação, a informação que recebemos, a nossa privacidade, a segurança e até o funcionamento das democracias, quem deve decidir as regras?
Não podem ser principalmente as empresas que desenvolvem a tecnologia, como defendeu recentemente o presidente dos Estados Unidos. Não por serem irresponsáveis ou terem más intenções, mas porque nenhuma empresa tem legitimidade para decidir, em nome de todos nós, que riscos uma sociedade está disposta a aceitar.
Nas democracias, essa legitimidade pertence às instituições públicas. Cabe aos governos e aos Parlamentos definirem as regras dentro das quais empresas e cidadãos atuam. Não precisam de saber construir um modelo de Inteligência Artificial, tal como um Parlamento não precisa de saber construir um avião para aprovar regras de segurança aérea. A União Europeia, com o AI Act, já começou a dar esse passo. Acresce que, numa tecnologia sem fronteiras, as regras só serão eficazes se forem coerentes internacionalmente.
Existe ainda outro problema. As empresas que desenvolvem os modelos mais avançados estão numa corrida entre si. Mesmo que uma delas considere prudente avançar mais devagar, dificilmente o fará se acreditar que as outras continuarão a acelerar. Numa competição desta dimensão, a autorregulação tem limites evidentes.
Isto não significa que qualquer regulação seja boa. Regras excessivas podem travar a inovação.
Regras demasiado complexas podem favorecer as grandes empresas, que têm meios para as cumprir, e dificultar o aparecimento de concorrentes. E reguladores demasiado próximos das empresas podem acabar por proteger aqueles que deveriam fiscalizar.
O desafio não é escolher entre inovação e segurança, mas garantir que uma tecnologia extraordinária se desenvolve dentro de regras que protejam as pessoas sem impedir o progresso.
Quanto maior for o seu poder, menos aceitável é que essas regras sejam definidas apenas por quem o detém. A inovação pode nascer nas empresas e nos laboratórios. Mas as escolhas sobre os riscos que estamos dispostos a correr pertencem à sociedade. É também para isso que serve a democracia.