Anthropic diz ter detetado e interrompido campanhas da Rússia e China usando IA

A Anthropic, empresa de inteligência artificial criadora do modelo Claude, denunciou na quinta-feira, 10 de setembro, a tentativa de uso "malicioso" dos seus modelos em operações vindas da Rússia e da China e que envolviam casos de phishing, invasão de redes ou, no caso de várias empresas chinesas, usar o potencial do Claude para treinar os próprios modelos de inteligência artificial.

Num relatório publicado pela empresa sobre os vários usos maliciosos, a Anthropic denunciou que estas campanhas usaram IA "para além de simples perguntas e respostas de um chatbot". As operações, explicam, foram mais complexas e envolveram "a utilização de estruturas multiagentes".

Num dos casos referidos, a tecnológica fala no uso de inteligência de artificial por grupos ligados à Rússia, como o Midnight Blizzard, que fez operações de phishing, de controlo do Whatsapp e de uso de redes Wi-Fi de hotéis.

O uso destas tecnologias deu novos poderes aos atacantes, lê-se no relatório. "A adoção da IA ameaça comprometer rápida e facilmente a capacidade dos defensores de impor custos aos adversários", escreve a empresa no seu relatório.

Já no caso da China, a situação denunciada pela Anthropic envolveu várias tecnológicas chinesas, incluindo a Xiaomi, a Deepseek e até a AliBaba, empresa proprietária do mercado online Ali Express.

Segundo a empresa, a Alibaba usou um modelo que visava usar o Claude para poder treinar os seus próprios modelos de inteligência artificial, a Qwen. Ao todo, 151 milhões de movimentações de informação ligados à Alibaba foram detetados entre maio e julho deste ano, chegando a ser até três milhões por dia.

Segundo a Anthropic, a Deepseek terá mesmo passado pelo Claude conversas diretas com clientes na sua própria plataforma que usa IA, incluindo envolvendo informações sensíveis.

Anthropic impediu investigações que se podiam relacionar com armas biológicas

No mesmo relatório, a Anthropic disse também ter impedido pelo menos cinco projetos de investigação potencialmente relacionados com o desenvolvimento de armas biológicas, algumas com elevado potencial pandémico.

A empresa fala em pelo menos quatro casos estiveram ligados a organismos estatais que Anthropic decidiu não divulgar, perante a possibilidade de serem apenas estudos académicos.

O primeiro dos exemplos incidiu sobre atividades de investigação e desenvolvimento para tornar o vírus do chikunguna mais transmissível e resistente ao sistema imunitário.

A empresa destacou que o conhecimento obtido poderia usar-se na criação de vacina e tratamentos, se bem que o facto do formulário da subvenção indicar que os cientistas seriam civis, mas a investigação decorreria em um laboratório militar, ter levado ao bloqueio da conta da 'Claude'.

Segundo a Organização Mundial de Saúde, o chikunguna é uma doença transmitida por mosquitos que provoca febre e uma dor "incapacitante" nas articulações.

A Anthropic constatou a intenção de um organismo estatal de usar os seus modelos de IA para estudar venenos não contagiosos. E acabou ainda a bloquear outro utilizador que investigava toxinas bacterianas e proteínas de febres hemorrágicas virais com capacidade pandémica.

A tecnológica norte-americana detetou ainda iniciativas similares, mas com fins menos insuspeitos, para investigar o vírus causador da varíola ou a passagem da gripe das aves para os mamíferos.

Com Lusa