IA em serviços públicos: "Não vale a pena ter um Ferrari se a estrada está cheia de buracos", diz especialista

Portugal está atrasado no uso da Inteligência Artificial (IA) na Administração Pública. A avaliação é da socióloga Helena Machado, que se dedica ao estudo destas tecnologias. “Devo dizer que, a nível da Administração Pública, parece-me que esse uso, em Portugal, ainda está bastante embrionário”, diz ao DN. A docente investiga o uso de IA com uma perspetiva social. “Eu percebi, há alguns anos, a falta de investigações em língua portuguesa em áreas da IA que não sejam ciência de dados”, explica a investigadora. Machado é coautora do livro Desafios Sociais e Éticos da Inteligência Artificial no Século XXI, escrito com Susana Silva.

De acordo com Helena Machado, a implementação destas tecnologias no serviço público ainda não é “muito visível”. “A implementação, a nível da Administração Pública, está ainda muito orientada para coisas bastante simples e que não trazem grandes debates ou problemas éticos ou sociais, a introdução da Inteligência Artificial ainda não está, assim, muito visível no caso português”, analisa. A investigadora recorda que a estratégia para Inteligência Artificial em Portugal é de 2019.

Uma das repartições que utilizam alguns sistemas são as Finanças. “É um dos setores em que tenho usado, com alguma capacidade sistemática, chatbots que são treinados para responder a questões dos utilizadores sem ter de passar pelos serviços”, destaca. “Portanto, é mais ao nível de pequenas aplicações, mas ainda são bastante elementares, é uma coisa ainda bastante embrionária”, sublinha.

Ao mesmo tempo, o próprio site das Finanças não tem um design atual. Vale a pena investir em IA sendo que o próprio portal não é novo? A investigadora faz uma analogia. “Eu concordo perfeitamente que não vale a pena ter um Ferrari, se a estrada está cheia de buracos. Boa analogia. Mas eu acho que as coisas podem ser feitas em paralelo”, reforça. Helena Machado crê que as duas coisas podem ser feitas ao mesmo tempo. “Essa mudança digital aconteceria por ter um site com um aspeto mais atrativo, mais franco do utilizador, e simultaneamente estar a usar ferramentas que pudessem, por exemplo, aprender como a interação que os utilizadores têm com o site”.

E como será isso possível? “É preciso haver realmente aquilo a que eu chamo estratégia. Porque a ideia que eu tenho é que há muitas ações fragmentadas, que custam bastante dinheiro, mas que são fragmentadas. Quando não há uma linha condutora e que possa agrupar e colar as diferentes partes, as coisas depois não funcionam”, sublinha.

No entanto, a investigadora faz um alerta: qualquer uso de IA precisa de cuidado. “Existe a necessidade de acompanhar e fazer uma auditoria aos algoritmos que possam ser utilizados por entidades públicas”, frisa. Helena Machado fez uma palestra, recentemente, no Tribunal de Contas sobre esta temática. “Dei um exemplo ficcional, mas que foi inspirado num caso real que aconteceu nos Países Baixos, em que realmente a atribuição de benefícios sociais acontecia em função de um histórico que penalizava ou colocava como sendo de risco pessoas que tivessem determinadas nacionalidades consideradas como tal. Portanto, mostravam viés racista, que prejudicou sem dúvida um alargado conjunto de cidadãos”, explica.

Mas é possível evitar que tais situações aconteçam, salienta, com “devida monitorização e acompanhamento”. No entanto, é preciso dar um passo atrás, antes. “Primeiro é necessário ter um olhar crítico sobre esses processos”, pontua. Depois, é preciso analisar a forma como a IA será treinada, com base em processos anteriores. “É preciso perceber historicamente as práticas anteriores e compreender que realmente a máquina vai ter a boa capacidade, parece-me que é um aspeto forte, um benefício, ao tomar decisões consistentes com os dados anteriores, mas é preciso avaliar a qualidade desses dados”, salienta.

Cuidados nos tribunais

Outra área em que o uso da IA pode ser utilizado é a da Justiça, destaca a socióloga. “Há uma discussão em alguns tribunais que poderia acelerar o trabalho dos juízes, que ainda hoje é muito manual de análise de muitas coisas e os processos estão se evoluindo cada vez mais”, diz. Mas depende da área. “Por exemplo, a nível criminal, todas as instâncias internacionais têm chamado a atenção para a necessidade de cautela adicional, quando comparando, por exemplo, com o Direito Civil”.

Na área criminal a situação é mais complexa. “Isto por vários motivos, porque quando estamos a falar de Direito Penal, tem-se como pressuposto que eventualmente alguém vá ter uma sentença, ou que também as vítimas de crime sejam pessoas que estão nessa situação vulnerável porque foram vítimas de crime. É preciso muita cautela, mais do que em processos de índole mais administrativa. Mas também porque em processos de índole administrativa há realmente muito maior rotina. Ou seja, há decisões que têm de quase seguir um protocolo e a IA ajudaria em tudo que seja basicamente rotina”, argumenta. O Governo apresentou, em 2023, a Govtech, uma estratégia de IA para a Justiça, financiada com 26 milhões de euros do Plano de Recuperação e Resiliência (PRR).

amanda.lima@dn.pt