Tribunais do futuro com alucinações no presente

A transformação digital da Justiça em Portugal não começou ontem. O país foi pioneiro há cerca de 20 anos, quando implementou o CITIUS e o SITAF, sistemas que permitiram desmaterializar o processo judicial desde a 1.ª Instância até ao Supremo.

Quem trabalhou na modernização do Estado sabe o esforço que isso representou, numa altura em que a maioria dos tribunais europeus ainda vivia rodeada de papel. Esse mérito não pode ser apagado pelas críticas que se seguem.

O problema é que, duas décadas depois, continuamos a falar do mesmo tipo de promessas, apenas com um verniz tecnológico mais recente. Em 2023 o Ministério da Justiça anunciou, numa mesma leva de medidas, que os advogados deixariam de ter de se deslocar aos tribunais para levantar provas, que os juízes passariam a contar com o apoio de Inteligência Artificial numa interface única e que se avançaria para uma sala de audiências do futuro. Nesse pacote entrava também um piloto de anonimização automática de acórdãos com recurso a um algoritmo de Inteligência Artificial, a arrancar no Tribunal Central Administrativo Sul e prometia-se que iria chegar a todos os magistrados ainda nesse ano.

Passados três anos, é um nome novo, o sistema Amália, que chega a carregar promessas semelhantes, agora à escala de todo o Estado. O sistema foi apresentado em julho como peça central da Agenda Nacional de Inteligência Artificial. O investimento rondou os sete milhões de euros, financiados em larga medida pelo PRR. O discurso oficial insiste na soberania digital, na ideia de que o Estado constrói a infraestrutura para que a sociedade crie valor sobre ela, em contraste com a dependência de modelos proprietários controlados por grandes empresas tecnológicas estrangeiras.

Esse objetivo de soberania é uma bandeira que sempre defendemos e continuaremos a defender. Mas a soberania tecnológica não se ganha apenas construindo um modelo próprio, ganha-se garantindo que ele funcione.

Poucas semanas depois do lançamento, o Partido Socialista foi ao Parlamento acusar o Governo de ter criado um brinquedo dispendioso, sem utilização definida, que erra em factos básicos como a identidade do primeiro-ministro ou as datas das eleições. Testes independentes confirmaram o problema, com o Amália a inventar factos e nomes, a alterar a História de Portugal e a produzir alucinações.

Se um sistema com este historial vier a ser a base tecnológica que sustenta ferramentas de apoio à decisão judicial, a preocupação com as alucinações da Inteligência Artificial deixa de ser hipotética e passa a ser uma probabilidade concreta.

É neste contexto que deve ler-se o anúncio feito no Plano de Ação da Estratégia Digital Nacional para 2026 e 2027, de que estará concluído na segunda metade deste ano um código de conduta de Inteligência Artificial para as entidades da área governativa da Justiça. O texto reconhece que é essencial acelerar a modernização tecnológica dos tribunais e garantir que juízes, advogados e cidadãos disponham das competências e dos meios adequados.

É um objetivo que subscrevemos sem reservas. O que nos preocupa é a sequência. Regulamos depois de implementar, em vez de implementar depois de regular.

E o caminho para essa implementação já vem de trás. Em setembro do ano passado, uma conferência em Bragança sobre Inteligência Artificial e Tribunais, organizada pelo Conselho Superior da Magistratura com o apoio de universidades, apresentou precisamente um projeto do modelo Amália ao serviço da Justiça. Por outras palavras, a aplicação deste tipo de modelo às decisões judiciais já estava a ser preparada e discutida meses antes de a versão nacional do Amália expor em público os erros básicos que hoje conhecemos.

Não temos dúvidas de que há muita gente séria a trabalhar nesta área e a presença da academia e da magistratura nesse debate é um sinal positivo que importa reconhecer. O que falta sistematicamente é a ordem certa das coisas.

Primeiro a fiabilidade comprovada, depois o código de conduta, só depois a aplicação em contexto de decisão judicial e nunca ao contrário. A boa burocracia não é a que rejeita a tecnologia é a que subordina a tecnologia ao interesse do cidadão em vez de subordinar o cidadão aos erros da tecnologia.

A Justiça precisa da IA como ferramenta de auxílio, nunca como substituto da decisão humana. E a experiência portuguesa recente acrescenta a esse princípio uma confirmação incómoda.

Não é preciso imaginar cenários futuristas de perfis de risco e deteções preventivas para encontrar hoje em Portugal um sistema de IA financiado pelo Estado que ainda inventa factos básicos e que, apesar disso, continua a ser apresentado como peça central da modernização da Justiça. Antes de perguntarmos se queremos uma Justiça alucinada, talvez devêssemos perguntar se já não a temos, ainda que só em fase de testes.