O Estado e o oráculo de bolso

Numa repartição pública qualquer, a esta hora, um técnico pede a um assistente de inteligência artificial que lhe redija a resposta a um requerimento. Fá-lo no telemóvel pessoal, com uma conta gratuita, sem que o dirigente saiba e sem regra escrita que o autorize ou proíba. O cidadão receberá um ofício assinado por um humano e pensado, em boa parte, por uma máquina que ninguém auditou.

Não se diga que falta papel. O regulamento europeu da inteligência artificial aplica-se por fases: a generalidade do regime desde 2 de agosto deste ano, mas o artigo 4.º, que obriga quem utiliza sistemas de IA, incluindo entidades públicas, a assegurar a literacia dos seus trabalhadores, aplica-se desde fevereiro de 2025. Há ano e meio, portanto. O artigo 27.º exige aos organismos públicos que empreguem sistemas de alto risco, como os que condicionam o acesso a prestações e serviços essenciais, uma avaliação de impacto sobre os direitos fundamentais, e o adiamento dos prazos do alto risco decidido por Bruxelas em março apenas dá tempo, não dispensa ninguém. Cá dentro, a antiga AMA, hoje ARTE, publicou um guia para uma IA ética e responsável na Administração Pública; o Governo aprovou em janeiro a Agenda Nacional de Inteligência Artificial, um documento perfeito que poderia ter sido encomendado a uma qualquer consultora, que sobrevoa a realidade; o Estado tem até um modelo de linguagem próprio, o AMALIA. Há regulamento, guia, agenda e máquina.

Falta o resto. A literacia em IA é um dever jurídico com ano e meio de vigência, mas a formação dos funcionários continua dispersa, voluntária e desigual. O Estado está em incumprimento perante si mesmo. O guia recomenda, não vincula; a Agenda anuncia intenções, não decide. No terreno, o uso é ad hoc, pessoal, invisível. Cada funcionário decide sozinho se usa, o que usa e o que lá coloca, incluindo, teme-se, dados pessoais de terceiros. Uns serviços toleram, outros ignoram, quase nenhum decide. O resultado é um mosaico sem uniformidade nem controlo, em que a qualidade da resposta ao cidadão depende do gosto tecnológico do funcionário de serviço.

E depois há a pergunta a que nenhum guia responde: quem responde? O direito administrativo imputa o ato ao órgão, não ao algoritmo, e ainda bem. Mas se um serviço presta uma informação errada gerada por um sistema que ninguém validou, sem supervisão humana efetiva, a confiança que Weber via como a essência da burocracia moderna, a calculabilidade, esboroa-se. O cidadão não pode confiar num Estado que não sabe o que as suas máquinas dizem em seu nome.

Não proponho proibir, que seria inútil e hipócrita. Proponho cumprir e assumir: cada organismo obrigado a assumir formalmente que ferramentas admite, para que tarefas, com que supervisão e com que registo, e de preferência num quadro geral e uniforme para a Administração. E formação a sério para quem já usa “às escondidas” o que o empregador público finge não ver.

Um Estado que exige literacia em IA aos outros e não a dá aos seus não é prudente, é apenas distraído. E a distração, em direito público, tem um nome antigo: irresponsabilidade.