Amodei pede travão na IA por "risco existencial": imperativo de segurança ou cálculo de mercado?

Numa das mais severas advertências públicas alguma vez assumidas pela cúpula da indústria tecnológica, Dario Amodei, diretor executivo da Anthropic, defendeu este sábado (12 de setembro) a imposição imediata de um abrandamento coordenado no ritmo de desenvolvimento dos modelos de fronteira.

Através de um extenso ensaio intitulado "We Must Pace the Frontier", o dirigente sustenta que os ciclos de auto-aperfeiçoamento recursivo (em que a IA se auto-aperfeiçoa) aceleraram a evolução dos sistemas para lá da capacidade humana de controlo, empurrando o ecossistema digital para um risco de rutura civilizacional.

"Temos de abrandar o ritmo a que aumentamos as capacidades dos modelos de IA", escreve Amodei, sublinhando que, mesmo perante essa contenção, a transformação continuará a fazer-se sentir com intensidade.

"O progresso continuará a parecer rápido, e teremos de fazer um uso prudente do tempo que ganharmos", adverte o gestor, defendendo que os próximos meses serão determinantes para assegurar que a tecnologia permanece alinhada com a segurança coletiva.

A tomada de posição surge em plena crise de confiança nos bastidores dos principais centros de investigação dos EUA, na sequência direta da demissão de Jacob Coxon, antigo investigador com passagens pela OpenAI e pela própria Anthropic.

Em declarações públicas que agitaram o setor nos últimos dias, Coxon acusou os líderes da indústria de estarem "a correr direitinhas para a superinteligência auto-aperfeiçoável e a jogar com as nossas vidas", as de toda a humanidade, queria ele dizer. O cientista garantiu ainda, à porta fechada, que muitos dos principais cientistas admitem em privado que estes sistemas "nos podem matar a todos até ao final da década", segundo foi amplamente noticiado.

No documento agora publicado, Amodei dá corpo a esses receios ao centrar as suas preocupações na proliferação de enxames de agentes autónomos fora de controlo. Segundo as projeções traçadas pelo responsável, os modelos mais avançados poderão atingir, num horizonte estreito de seis a doze meses, um nível de sofisticação técnica que lhes permitirá orquestrar ciberataques persistentes a uma escala sem precedentes.

Recorrendo a incidentes recentes de segurança na partilha de infraestruturas computacionais — onde agentes de código cooperaram de forma autónoma em investidas intrusivas —, Amodei avisa que a próxima vaga de sistemas terá capacidade para assumir o controlo de vastas redes de botnets e dominar pontos nevrálgicos de toda a internet.

Um cenário que, nas palavras do líder da Anthropic, acarreta o perigo de prejuízos materiais calculados em centenas de milhares de milhões de dólares ou danos irreversíveis na infraestrutura global.

Para travar esta espiral, o executivo afasta uma paragem unilateral por considerar que deixaria o mundo democrático vulnerável face a regimes autoritários — que dificilmente pararão os seus desenvolvimentos tecnológicos — mas exige a formalização de um pacto vinculativo entre os principais laboratórios ocidentais.

Esse acordo, defende, pressupõe a fixação de patamares mínimos e inegociáveis de validação empírica antes de qualquer salto de capacidade, impedindo que a rivalidade de mercado continue a ditar lançamentos precipitados.

Em paralelo, Amodei reclama o fim da opacidade corporativa através da imposição de inspeções externas obrigatórias. Pela sua proposta, avaliadores e auditores independentes devidamente credenciados passariam a dispor do mesmo nível de acesso a dados e arquiteturas internas que é hoje reservado aos engenheiros seniores das empresas, fiscalizando os procedimentos de contenção e os incidentes de alinhamento longe de qualquer filtro de relações públicas.

Este manifesto desencadeou reações imediatas nos meios económicos e políticos. Elon Musk, detentor da xAI (o "cérebro" por trás do Grok), manifestou apoio público à advertência através de uma mensagem sintética em que afirma que «Dario tem razão». Já analistas em Washington e Bruxelas interpretam o ensaio como uma admissão formal de que a auto-regulação do setor falhou, aumentando a pressão política sobre os governos para a criação de um enquadramento legal de supervisão com poder coercivo.

Como está a Anthropic face à concorrência OpenAI e Google

No plano puramente técnico, a Anthropic não se encontra, tanto quanto é público, desfasada dos rivais em inteligência bruta de modelos. Nos índices agregados de avaliação da indústria, como os rácios Elo da LMSYS Chatbot Arena compilados pela Universidade de Stanford, a família Claude divide a liderança da tabela com pontuações em torno dos 1500 pontos, mantendo uma paridade estatística direta com as propostas de topo da Google, da xAI e da OpenAI. Aliás, até há bem pouco tempo era o gigante da Alphabet quem parecia ter perdido um pouco o comboio, com custos no seu valor de mercado.

A família Gemini, desenvolvida pela Google DeepMind, viu a sua liderança ser posta em causa e centenas de milhares de milhões de dólares evaporarem-se do valor de mercado da Alphabet devido aos sucessivos atrasos no lançamento do Gemini 3.5 Pro, interpretados pelo setor como um sinal de incapacidade para acompanhar o ritmo da Anthropic e da OpenAI em programação e raciocínio complexo. Mas a recuperação consolidou-se graças ao músculo industrial da Google e ao domínio da sua infraestrutura proprietária de chips tensores (TPU) — processadores da própria Google otimizados para os seus sistemas que equipa nos seus data centres — o que permitiu à empresa fechar o fosso competitivo através de custos de inferência mais agressivos, janelas de contexto gigantescas e versões intermédias de grande eficiência, como o Gemini 3.8 Flash e o Gemini 3.1 Pro. Isto enquanto prepara o salto arquitetural definitivo para o Gemini 4.

Já em tarefas especializadas de engenharia de software e geração de código — aferidas por referências como o SWE-bench —, a infraestrutura do Claude Code e as versões avançadas do Opus continuam a ser apontadas por testes independentes como as mais consistentes do mercado, suplantando os pares em fluxos de trabalho longos e sensíveis.

Aqui, o fosso competitivo reside na capacidade de atrito industrial e na dinâmica de ecossistema. A Google detém uma vantagem estrutural quase inalcançável em poder de computação bruta, suportada por infraestrutura própria dos referidos TPU e pela escala dos centros de dados da Google Cloud, que lhe permite avançar no processamento multimodal nativo e em janelas de contexto com milhões de tokens a custos de inferência mais agressivos.

Por sua vez, a OpenAI lidera de forma inequívoca o ritmo de mercado e a adesão de programadores (o chamado developer momentum), capitalizando a maturidade da família GPT-5 e dos modelos de raciocínio da série 'o' através de uma rede profunda de agentes e de ferramentas integradas nas ferramentas de trabalho empresariais.

É neste estrangulamento logístico que a posição da Anthropic se torna mais vulnerável. Ao contrário da Google, a tecnológica de Amodei não domina a cadeia de fornecimento de hardware e depende de capacidade alugada na Amazon Web Services e na Google Cloud.

Nos últimos meses, a procura sobre a sua API superou a capacidade computacional disponível, forçando a empresa a racionar acessos e a lidar com restrições de escala que penalizam a sua progressão comercial.

O próprio Amodei concede este ponto de atrito no seu ensaio, ao reconhecer expressamente que a velocidade a que o setor se move gerou "problemas de execução" interna na Anthropic, admitindo falhas operacionais e de filtragem no treino por existirem "demasiadas coisas para fazer ao mesmo tempo" numa infraestrutura que não tem margem de erro.

Há assim, na perspetiva da empresa de Amodei, uma dualidade clara. Se em precisão analítica e código a Anthropic ainda não perdeu a corrida de fronteira, no plano da escala física e do músculo financeiro esta começa a dar mostras evidentes de saturação face a concorrentes com reservas de capital e computação muito superiores.

Sob este prisma, o apelo de Dario Amodei a um abrandamento obrigatório e a uma cadência uniforme pode responder tanto a preocupações doutrinárias de segurança como a uma imperiosa necessidade que ele próprio tem de ganhar tempo para consolidar as suas operações antes que a capacidade industrial dos rivais torne o fosso intransponível.