O nosso mundo está repleto de algoritmos (chamemos-lhes robots para não perturbar o imaginário) que nos ajudam a fazer de tudo no nosso dia-a-dia: escolher um filme, tirar a melhor fotografia, encontrar o amor. A nossa pegada digital permite ao “grande irmão” saber a que horas acordámos, o que pequeno-almoçámos, quantos minutos conduzimos até ao trabalho, a que horas enviámos o primeiro email, onde nos deslocámos durante o dia, quantas horas passámos nas redes sociais, bem como quaisquer outras perguntas que queiramos fazer. Se os vossos dados não ditarem a resposta certa, seguramente darão uma excelente resposta aproximada..Mas para além destes robots, para além das aplicações, das empresas e das marcas, quem mais terá esta vossa informação? Quem mais vos conhecerá desta forma? Duvido muito que alguém. Espero que ninguém..E se “os robots” começassem a entender-nos tão bem que pudessem influenciar as nossas escolhas sem que percebêssemos? Brincadeirinha, é verdade. Todos sabemos que isso já acontece..Imaginem uma rede social tão inteligente que identifica o nosso estado emocional (por exemplo, quando nos estamos a sentir especialmene tristes ou profundamente sós) e, em vez de “apenas” recomendar conteúdos com base nestas emoções, manipula propositadamente o que vemos, de forma a prolongar esses estados, por exemplo, com objetivos preversos de aumentar o tempo de utilização da plataforma. Queremos chamar-lhe marketing digital ou manipulação emocional em redes sociais?.Imaginem uma aplicação móvel de monitorização de saúde mental que analisa os nossos padrões de comportamento para apresentar conselhos de bem-estar, mas que, na verdade, influencia os nossos comportamentos de maneira a direcioná-los para certos serviços ou produtos pagos, sem deixar claro que há um interesse comercial subjacente..Imaginem um sistema de IA usado por plataformas de publicidade que analisa dados de comportamento online para mostrar anúncios de forma subliminar (ou seja, além do nosso nível de consciência) com o objetivo de induzir compras impulsivas. Por exemplo, um sistema que altera ligeiramente as cores ou os elementos dispostos no ecrã para estimular decisões precipitadas em utilizadores mais vulneráveis (como crianças ou pessoas com vícios). Concordam que cheira a manipulação comportamental através de publicidade subliminar?.Este artigo é só para largarmos um pouco o queixume e olharmos para o bright side da legislação europeia em matérias de dados e tecnologia, nomeadamente e neste caso, o AI Act. Os exemplos listados acima não são mais que alguns dos sistemas de IA proibidos por esta legislação, no seu artigo quinto. E não, não me parece uma questão de excesso de zelo. Quando o aumento galopante das vendas nos ofusca os valores, então que venham detetives e samurais, encarnando reguladores e legislações, que nos obriguem a renovar os votos de disciplina e coragem perante a atuação dissimulada da tecnologia..(sou casada com tecnologia, não se iludam não)