Na semana passada, os dirigentes das maiores empresas de Inteligência Artificial almoçaram na Casa Branca e saíram de lá exatamente como tinham entrado, continuando a vigiar-se a si próprios. Este domingo ficámos a saber quem os vai acompanhar daqui em diante. Não é um regulador, é uma força.
O acordo que assinaram pede a cada empresa que monitorize os seus modelos, que crie uma equipa interna de controlo, que recorra a auditores externos e que entregue a supervisão a uma comissão do seu próprio conselho de administração. Trump garantiu que o texto é “moralmente vinculativo”. No mesmo dia, uma Ordem Executiva mandou a Administração Federal substituir Inteligência Artificial por “superinteligência”, aplicando-lhe porém a definição legal que já existia. Os diplomatas americanos receberam instruções no mesmo sentido. Mudou o nome, mas ficou a coisa.
A terceira peça chegou agora anunciada por Donald Trump. A "Força da Superinteligência" tem por missão coordenar o esforço federal para que a América continue a liderar o mundo nesta tecnologia. É dirigida por Jay Clayton, diretor Nacional de Informações e provável “czar da IA”, e integra Andrew Ferguson, presidente da Comissão Federal do Comércio, Emil Michael, subsecretário da Defesa para a Investigação e Engenharia, e Scott Kupor, diretor do Gabinete de Gestão de Pessoal da Administração Federal.
A composição diz quase tudo. Serviços de informações, investigação militar, concorrência e função pública. Nenhum cientista independente, ninguém do Congresso e ninguém da sociedade civil. As empresas aparecem apenas como mais uma parte interessada, ao lado dos consumidores e das organizações religiosas, e não como objeto de fiscalização. O objetivo declarado é ganhar a corrida e não proteger os cidadãos. É o mesmo Estado a fazer de promotor e de guardião.
A ironia é que há poucas semanas quase todos os signatários pediam para ser regulados. A OpenAI cancelou o lançamento do seu modelo mais recente por razões de segurança e Dario Amodei, da Anthropic, apelou aos laboratórios para moderarem o ritmo da fronteira. Como notou o investidor Bradley Tusk, ninguém pedia regulação por fé no Estado, mas um árbitro que impusesse as mesmas regras a todos. Um compromisso voluntário não é um árbitro e uma força, cuja missão é vencer, também não.
Eric Schmidt, antigo presidente executivo da Google, explicou-o, numa longa entrevista à The Economist, que não haverá pausa no desenvolvimento da IA, porque todo o sistema de incentivos americano joga contra ela e porque ninguém saberia como verificá-la.
Temos acompanhado este debate no Grupo dos Futuros da APDSI, onde trabalhamos numa proposta de instrumento internacional vinculativo de governação da IA, hoje na sua sétima versão e articulada com a Coligação do Artigo 109.º. A comparação mostra com nitidez o que falta em Washington.
O acordo prevê auditores externos sem dizer quem os escolhe, nem quem lhes paga. O Artigo VIII da nossa proposta impede peritos ligados aos laboratórios dominantes de avaliarem matérias que os afetam, princípio que vale, por maioria de razão, para uma força nomeada para assegurar a vitória da indústria que deveria fiscalizar.
Os últimos meses trouxeram sucessivos casos de sistemas que escaparam aos limites dos seus criadores, mas ninguém fica obrigado a comunicá-los. O Artigo IV exige a notificação de falhas de contenção em 72 horas. Não é um pormenor técnico, é a diferença entre um incidente que a sociedade conhece e um que fica guardado num relatório interno de uma empresa cotada em bolsa ou num dossiê classificado.
Sobre os agentes autónomos, que já celebram transações e operam em cadeias de decisão sem que se saiba a quem pertencem, nem o acordo nem a nova força dizem uma palavra. Ter os serviços de informações e a investigação militar à cabeça da coordenação torna esse silêncio ainda mais inquietante. O Artigo X prevê o seu registo rastreável, com anonimato por defeito e identificação apenas por ordem judicial e o Artigo II garante que a responsabilidade humana não se perde quando age uma máquina.
O acordo admite que um dia talvez faça sentido converter estes passos em lei, mas o speaker Mike Johnson tratou de afastar esse dia e o Congresso americano adiou tudo para depois das intercalares de novembro. O projeto do senador Mark Warner, que exige testes rigorosos aos modelos mais poderosos antes de chegarem ao mercado, depende de uma maioria que não existe. Por isso, o Artigo IX sustenta que nenhum quadro de governação pode ficar refém do ciclo político de um único país e propõe um protocolo autónomo que entra em vigor com um número mínimo de ratificações, dando força vinculativa à arquitetura voluntária das Nações Unidas.
Os cidadãos perceberam-no melhor do que os governantes. Segundo a Verasight, 63% dos americanos querem que a IA abrande e só 5% querem que acelere. A democracia pede regras e Washington oferece um almoço, um nome novo e uma força.
A 1.ª Comissão da Assembleia-Geral está reunida em Nova Iorque. Portugal tem ali a oportunidade de levar à mesa uma proposta que reúne aquilo em que os legisladores americanos já concordam e que o seu presidente recusa. Não é pedir muito à diplomacia portuguesa que tanto se orgulha do seu multilateralismo.
Moralmente vinculativo é o que se diz de uma promessa que ninguém pode cobrar. Para uma tecnologia que os seus criadores comparam aos maiores riscos da Humanidade, mudar-lhe o nome e confiá-la aos serviços de informações é muito pouco para evitar o caos.