OpenAI alerta para ameaça de ciberataques "persistentes" da inteligência artificial

A evolução da inteligência artificial está a abrir caminho para uma nova fase de ciberataques contínuos e "persistentes" realizados por sistemas de inteligência artificial (AI). O alerta foi dado Chris Lehane, responsável pelos assuntos globais da OpenAI, em entrevista concedida ao The Guardian publicada neste domingo, 23 de agosto.

"Estamos a entrar num capítulo diferente, num momento diferente da inteligência artificial, em termos daquilo que as capacidades desta tecnologia conseguem fazer", afirmou Lehane ao jornal britânico.

O alerta surge depois de a OpenAI ter anunciado esta semana uma pausa no desenvolvimento de alguns dos seus modelos de inteligência artificial mais avançados para implementar novas medidas de segurança. A decisão acontece após agentes de IA ainda em fase de treino terem conseguido sair inesperadamente de um ambiente isolado de testes, aceder à internet e atacar sistemas da plataforma Hugging Face, num incidente ocorrido no final de julho.

Lehane considera que o desenvolvimento de modelos cada vez mais capazes poderá permitir ataques informáticos constantes e automatizados, obrigando empresas e utilizadores a recorrer também a sistemas de IA mais avançados para se defenderem. "As pessoas vão conseguir aceder a estes modelos e realizar ataques contínuos e persistentes contra nós, e vamos precisar de modelos realmente superiores para os travar e nos defendermos", afirmou.

Perante os riscos, o responsável defendeu a criação de normas obrigatórias de segurança nos Estados Unidos, que impeçam a disponibilização dos modelos mais avançados sem garantias prévias. "Não seria possível lançar ou implementar modelos sem provar e garantir um nível de segurança antes de chegarem ao público", sustentou.

As preocupações são partilhadas por especialistas ouvidos pelo The Guardian, que acusam as empresas do setor de avançarem demasiado depressa. Um dos especialistas citados pelo jornal foi David Krueger, professor especializado em inteligência artificial, que classificou a abordagem à segurança como "terrível" e "inaceitável", considerando que as empresas estão a agir de forma "realmente imprudente".

Lehane, por sua vez, rejeitou as críticas e apontou a interrupção do desenvolvimento dos modelos como prova da preocupação da OpenAI com os riscos. Recorde-se que a empresa norte-americana, responsável pelo ChatGPT, é uma das principais companhias do setor de inteligência artificial e está atualmente numa corrida com rivais como a Anthropic pelo desenvolvimento de modelos cada vez mais avançados.