Gemini, da Google, invadiu sistemas de três empresas durante testes de segurança

O Gemini, modelo de inteligência artificial (IA) da Google, conseguiu aceder sem autorização aos sistemas de três empresas durante testes de cibersegurança realizados em maio. A informação foi avançada pelo Wall Street Journal.

Os testes, conduzidos pela empresa de segurança Irregular, decorriam num ambiente simulado, com empresas fictícias. No entanto, uma ligação à Internet foi disponibilizada por engano, permitindo que o Gemini chegasse a serviços de empresas reais.

Num dos casos, o modelo adivinhou uma palavra-passe; nos outros dois, encontrou credenciais disponíveis publicamente na Internet e utilizou-as para entrar nos sistemas.

Segundo a Google, o Gemini interrompeu as ações quando identificou que estava a aceder a empresas reais, e os incidentes não provocaram danos. A tecnológica afirmou ainda que as três empresas afetadas foram informadas, embora tenha optado por não divulgar publicamente os casos na altura.

Os episódios juntam-se a incidentes semelhantes envolvendo modelos de IA da OpenAI e da Anthropic e levantam questões sobre os limites de segurança destas ferramentas quando executam tarefas de forma autónoma. A Google defendeu que os casos demonstram a importância de preparar os modelos para reconhecer situações de risco e interromper comportamentos indevidos.