Imagens sexualizadas: Reino Unido abre investigação formal à rede social X

Depois de o caso ter levantado ondas de indignação entre público e também governantes, a Ofcom – a agência reguladora das comunicações no Reino Unido (RU) – abriu uma investigação formal à plataforma de inteligência artificial (IA) Grok, que pertence ao X, rede social detida por Elon Musk. O Grok tem estado a ser usado para manipular imagens de mulheres e crianças, removendo as suas roupas e criando imagens sexualizadas que são depois difundidas na internet.

Um levantamento feito recentemente pela consultora Genevieve Oh, e divulgado pela imprensa internacional, deu conta de que a rede social X se tornou num dos principais sites para gerar imagens de pessoas despidas, via inteligência artificial e sem consentimento, com milhares de casos por hora ao longo de um dia: "Durante uma análise de 24 horas das imagens que a conta @Grok publicou no X, o chatbot gerou cerca de 6700 por hora que foram identificadas como sexualmente sugestivas ou que envolviam nudez", escrevia a Bloomberg no passado dia 7 de janeiro. "Os outros cinco principais sites desse tipo de conteúdo registaram, em média, 79 novas imagens por hora no período de 24 horas entre 5 e 6 de janeiro", revelou a mesma consultora. Ou seja, o Grok gera 85 vezes mais imagens sexualizadas do que os seus congéneres.

A investigação, ao abrigo da Lei de Segurança Online (OSA), prevê uma série de possíveis punições por violações, incluindo a proibição, no RU, de aplicações e sites que sejam condenados pelos abusos considerados mais graves. Segundo o The Guardian, a o regulador garante que a investigação está a ser tratada como uma “questão da mais alta prioridade”.

Em comunicado citado pela mesma publicação, a Ofcom afirma que “As denúncias de que o Grok está a ser usado para criar e partilhar imagens íntimas ilegais e não consentidas, e material de abuso sexual infantil no X, são profundamente preocupantes. As plataformas devem proteger as pessoas no Reino Unido de conteúdos ilegais no país, e não hesitaremos em investigar quando suspeitarmos que as empresas estão a falhar nas suas obrigações, especialmente quando há risco de danos às crianças”.

“Vamos tratar desta investigação como uma questão de máxima prioridade, garantindo ao mesmo tempo que seguimos o devido processo. Como agência independente de segurança online do Reino Unido, é importante garantir que as nossas investigações sejam juridicamente sólidas e decididas de forma justa”, lê-se no mesmo documento partilhado pelo The Guardian.

O regulador esclarece ainda que entrou em contacto  com a X para obter esclarecimentos “urgentes” sobre as suas preocupações, na segunda-feira passada, 5 janeiro. Depois de analisar a resposta da X sobre as medidas que tomou para cumprir a lei, a Ofcom disse que abriu uma investigação formal após uma avaliação “acelerada” e tratada como sendo “uma questão urgente”.

Partilhar imagens íntimas abusivas online é ilegal ao abrigo da OSA, que também exige que a pornografia seja restrita por idade. As empresas são ainda obrigadas a ter sistemas em vigor para impedir que material que seja abuso sexual infantil apareça, e que o remova rapidamente se for publicado numa plataforma.

O órgão regulador está quer perceber se a X violou a lei das seguintes formas: não avaliar o risco de as pessoas verem conteúdo ilegal na plataforma; não tomar medidas adequadas para impedir que os utilizadores vejam conteúdo ilegal, como abuso de imagens íntimas e pornografia infantil; não remover rapidamente o material ilegal; não proteger os utilizadores contra violações da lei de privacidade; não avaliar o risco que a X pode representar para as crianças; não usar uma verificação de idade eficaz para pornografia.

Dentro do seu espetro de atuação, a Ofcom pode entretanto decidir-se por uma das várias punições possíveis: desde exigir a implementação de certas medidas que garantam o cumprimento da lei em vigor, passando por aplicar multas de até 10% da receita global e, em casos extremos, bloquear efetivamente uma aplicação ou um site, solicitando a um tribunal “medidas de interrupção dos negócios”. Pode ainda exigir que os provedores de serviços de Internet bloqueiem o acesso a um site no Reino Unido. Na sexta-feira passada, 9 de janeiro, o governo de Keir Starmer disse que apoiaria a Ofcom se aquele órgão decidisse que o X deveria ser efetivamente banido.

Por seu lado, o regulador garantiu que está a reunir provas e que anunciará uma decisão provisória, antes de tomar uma decisão final, não dando, no entanto, quaisquer detalhes sobre quais os prazos em que estas decisões podem ser tomadas ou dadas a conhecer.