A alucinação na elaboração de sentenças judiciais

Foi esta semana noticiado que um acórdão judicial recentemente prolatado, citou outros acórdãos que não existem. O caso noticiado levanta sérias preocupações sobre a hipótese de uma utilização inadequada deste tipo de ferramentas numa área como a da Justiça. A integração da IA no Sistema Judicial tem o potencial de otimizar processos, reduzir a carga de trabalho dos magistrados e auxiliar na análise de grandes volumes de informação. No entanto, o sucedido evidencia os riscos associados à dependência excessiva de tecnologias que podem gerar informações imprecisas ou fictícias, no léxico próprio, originadas por alucinações.

O fenómeno ocorre devido a limitações nos algoritmos ou a falhas nos dados de introduzidos ou na customização das ferramentas de IA utilizadas.

A introdução de IA no Sistema de Justiça deve ser feito de forma centralizada, global e controlada, através de direção ou instituto na dependência do Ministério da Justiça, com a participação dos Conselhos Superiores da Magistratura e do Ministério Público, da Ordem dos Advogados e da Ordem dos Agentes de Execução e Solicitadores, devendo ser afastadas situações experimentais e casuísticas descentralizadas ao nível dos próprios tribunais, as quais darão seguramente mau resultado.

Tal será a única forma de garantir a seleção das ferramentas e das fontes utilizadas, garantindo a homogeneidade e veracidade das informações fornecidas no âmbito da customização das ferramentas utilizadas e o tipo de respostas que delas se pretende obter, garantindo que as decisões judiciais se baseiem em dados reais e confiáveis.

Numa fase seguinte, a formação e a capacitação dos profissionais são essenciais para garantir que estes compreendam as capacidades e as limitações das tecnologias que utilizam. O prompt engineering em breve deixará de ser léxico desconhecido da comunidade judiciária.

Na realidade, a utilização de IA levanta sérias questões éticas e legais relacionadas como a transparência dos processos decisórios e a responsabilidade por erros. A IA é uma ferramenta de apoio indispensável, mas não substitui a análise crítica e o discernimento dos juízes.

Em conclusão, estas novas ferramentas constituem uma oportunidade para melhorar a eficiência e a eficácia do Sistema Judicial, mas não dispensam o controlo humano sobre os processos decisórios.