Jovens entre a IA e o discurso de ódio

A rede EU Kids Online divulgou recentemente documentos que voltam a colocar em debate a forma como devemos, principalmente as crianças e jovens, lidar com as redes sociais e a Inteligência Artificial Generativa.

Por um lado surge, uma vez mais, o alerta para a necessidade de debate sobre o que é disponibilizado nas redes sociais e a forma como essa informação é lida, e replicada pelos jovens utilizadores, e a hipótese de essas notícias e imagens criarem perceções muitas vezes erradas e potencialmente capazes de “moldar” opiniões.

Numa realidade distinta ficamos a saber que uma grande maioria das crianças e jovens portugueses já usam a IA generativa, nomeadamente para trabalhos escolares, principalmente na faixa etária entre os 15 e os 17 anos – Crianças e jovens (9-17 anos) e Inteligência Artificial Generativa em Portugal. De acordo com Cristina Ponte, investigadora no Instituto de Comunicação da Nova (ICNova), citada pela Agência Lusa “houve em Portugal uma rápida penetração, uma rápida divulgação dos [sistemas de IA] entre os jovens, à margem dos professores, à margem dos pais”.

Uma utilização tão rápida e generalizada: merece ser questionada: se é verdade que a utilização da IA pode ajudá-los a recolher informação para os trabalhos, também sabemos que esses mesmos trabalhos podem ser feitos pela IA sem intervenção dos jovens. Fica a pergunta: o que se aprende quando nos limitamos a copiar e colar de uma resposta retirada de um programa de Inteligência Artificial? E onde fica o espírito crítico?

Já sobre o tema Novos usos, novos riscos? Direitos digitais de crianças e jovens (9-17 anos) – o nome de uma conferência nos dias 7 e 8 –, é referido que “mais de metade (52%) das crianças e jovens portugueses inquiridos afirma ter visto mensagens de ódio online pelo menos uma vez no último ano, proporção que sobe para 72% entre os adolescentes dos 16 aos 17 anos”. Segundo os dados divulgados, os conteúdos incluem mensagens hostis dirigidas a pessoas ou grupos sociais com base no género, origem étnica, religião, nacionalidade, orientação sexual ou deficiência.

À primeira vista, a utilização da IA generativa e a exposição ao discurso de ódio parecem fenómenos distintos. No entanto, ambos levantam a mesma questão fundamental: até que ponto as tecnologias digitais estão a influenciar a forma como os jovens aprendem, pensam e constroem a sua visão do mundo?

Não sabemos ainda qual será o impacto de tudo isto. Mas sabemos uma coisa: não podemos esperar que uma geração inteira descubra sozinha, daqui a dez ou 20 anos, as consequências de tecnologias que hoje estamos a introduzir nas suas vidas sem o debate, a educação e o acompanhamento necessários.