Líder da Anthropic acusa rivais de mentir sobre riscos da IA e rejeita estar a manobrar contra a concorrência

O cofundador e presidente executivo da Anthropic, Dario Amodei, acusou a indústria tecnológica de ter passado anos a mentir deliberadamente ao público e aos decisores políticos sobre os perigos inerentes à inteligência artificial (IA) e negou liminarmente estar a tentar fazer uma "captura regulatória" para fechar a porta a pequenas startups e a operadores emergentes.

Em declarações transmitidas já este domingo (13 de setembro) no programa Sunday Morning, da estação norte-americana CBS, o responsável rejeitou as acusações de que os seus apelos a um abrandamento regulatório sejam uma manobra encapotada para afastar novos rivais ou erguer barreiras ao mercado.

"Não vos vou mentir. Existem perigos reais. E acho que durante muito tempo a indústria mentiu às pessoas sobre o facto de esta tecnologia ser arriscada. Nunca o fizemos [na Anthropic], mas grande parte da indústria sim", garantiu Amodei à jornalista Jo Ling Kent.

Segundo o responsável justificou a imposição de regras apertadas até prejudica, de imediato, a própria Anthropic, pois força a empresa a adiar o lançamento de modelos já finalizados por razões estritas de segurança. Mas o gestor advertiu que a curva de avanço técnico entrou num patamar crítico: "Não acho que tivesse total noção de como seria quando o progresso se tornasse tão rápido como se tornou".

Esta nova intervenção pública de Amodei surge no rescaldo de dias agitados no setor, marcados pela demissão ruidosa do investigador de pré-treino Jacob Coxon — que acusou os laboratórios de ponta de estarem a "jogar com as nossas vidas" na corrida para uma superinteligência capaz de autoaperfeiçoamento.

No sábado, Amodei publicou um ensaio com o título We Must Pace the Frontier com a tese de que é necessário travar o ritmo das capacidades da IA em prol da segurança. Este texto recolheu logo de seguida o apoio público de Sam Altman (OpenAI) e Elon Musk (xAI), numa atitude inédita no setor.

"Não temos de desligar tudo hoje"

Questionado sobre a urgência de uma resposta, Amodei traçou uma linha entre prudência e histeria: "Não significa que tenhamos de entrar em pânico hoje. Não significa que tenhamos de desligar tudo. Mas diria que é um sinal de aviso. É um sinal de aviso de que precisamos de abrandar".

No seu ensaio, o empresário frisou que a indústria arrisca uma "corrida para o fundo, estimulada por incentivos comerciais", alertando para vetores de perigo concretos: "Eles incluem o risco de perda de controlo dos sistemas de IA, o uso indevido de IA para ciberataques e bioterrorismo, e uma grave disrupção económica".

Apesar dos avisos, o cofundador da tecnológica afastou cenários de interdição total. "Não acho que proibi-la completamente seja a abordagem correta. Primeiro, a ideia de que nunca obteremos os benefícios incríveis, de que nunca obteremos as curas médicas, é algo que não me agrada. Segundo, esta tecnologia será desenvolvida noutros países, incluindo em países autoritários", observou, classificando a hipótese de os Estados Unidos pararem enquanto a China avança desregulada como "o dilema mais difícil" do momento atual.

Amodei confessou ainda o seu incómodo com a concentração de influência nas mãos do setor corporativo: "A minha perspetiva aqui é de que sempre foi muito estranho que esta tecnologia esteja a ser construída por uma empresa privada. As pessoas fazem-me essa pergunta a toda a hora: por que é que isto não está a ser construído por governos? E o mais estranho é que eu concordo com elas. Sinto-me desconfortável".

Questionado diretamente sobre se aceitaria transferir o controlo dos sistemas para o Estado, o executivo respondeu estar disponível para o fazer perante "a combinação certa de governos" democráticos com monitorização partilhada.

O líder da Anthropic resumiu a encruzilhada de forma categórica: "Se construirmos da forma correta, penso que a probabilidade de algo mau acontecer é muito baixa. Se construirmos da forma errada, a probabilidade de algo mau acontecer é muito elevada".

Apesar do concerto invulgar entre os principais rostos de Silicon Valley, a posição continua a encontrar resistência firme em Washington. O Presidente norte-americano, Donald Trump, e o presidente da Câmara dos Representantes, Mike Johnson, rejeitaram já qualquer paragem ou restrição federal compulsória, reafirmando que o desenvolvimento nos Estados Unidos tem de prosseguir sem entraves para garantir a liderança geopolítica face a Pequim.

Independentemente da questão da "captura regulatória", facto é que a tecnológica de Amodei enfrenta neste momento desafios para os quais uma pausa na corrida ao desenvolvimento lhe seriam, objetivamente, benéficos - os chamados "bottlenecks".

O maior problema da empresa prende-se com o facto de não dominar a cadeia de fornecimento de hardware e depender de capacidade alugada na Amazon Web Services e na Google Cloud.

Nos últimos meses, a procura sobre a sua API superou a capacidade computacional disponível, forçando a empresa a racionar acessos e a lidar com restrições de escala que penalizam a sua progressão comercial.

Aliás, o próprio Amodei concede este ponto de atrito no seu ensaio publicado sábado, ao reconhecer expressamente que a velocidade a que o setor se move gerou "problemas de execução" interna na Anthropic, admitindo falhas operacionais e de filtragem no treino por existirem "demasiadas coisas para fazer ao mesmo tempo" numa infraestrutura que não tem margem de erro.

Há assim, na perspetiva da empresa de Amodei, uma dualidade clara. Se em precisão analítica e código a Anthropic ainda não perdeu a corrida de fronteira, no plano da escala física e do músculo financeiro esta começa a dar mostras evidentes de saturação face a concorrentes com reservas de capital e computação muito superiores.

Sob este prisma, o apelo de Dario Amodei a um abrandamento obrigatório e a uma cadência uniforme na evolução de modelos pode também passar por uma imperiosa necessidade que ele próprio tem de ganhar tempo para consolidar as suas operações antes que a capacidade industrial dos rivais se torne o fosso intransponível — numa altura em que a sua infraestrutura já dá sinais evidentes de não conseguir acompanhar a procura.