O avanço acelerado da Inteligência Artificial (IA) tem ultrapassado as fronteiras do apoio técnico e da automação industrial, entrando progressivamente na esfera da tomada de decisão política, jurídica e administrativa. Nesse contexto, surge o conceito de “AItocracia” – um modelo de governança no qual sistemas de IA assumem um papel central na formulação de políticas públicas, afetação de recursos e aplicação da justiça, reduzindo ou até substituindo a intervenção humana.
Embora seja ainda um conceito predominantemente teórico, a crescente capacidade das tecnologias de IA processarem dados, identificarem padrões e otimizarem resultados torna relevante a reflexão sobre as implicações de delegar funções críticas de governo em sistemas algorítmicos, levantando um debate crucial sobre o futuro da democracia, da eficiência e dos direitos fundamentais. Vale a pena analisar os potenciais benefícios e riscos de um tal modelo.
Os defensores da AItocracia sustentam que a substituição de agentes humanos por algoritmos pode sanar vícios históricos da governação tradicional:
eficiência administrativa e redução de custos: uma das principais atrações de um sistema governado por IA é a promessa de eficiência sem precedentes. Os algoritmos podem processar volumes massivos de dados em tempo real, otimizando a alocação de recursos públicos, reduzindo desperdícios e eliminando redundâncias administrativas que caracterizam as burocracias tradicionais. A IA poderia, teoricamente, tornar a máquina estatal mais enxuta e produtiva, com menor custo operacional;
ausência de corrupção e interesse pessoal: diferentemente dos governantes e altos funcionários humanos, os sistemas de IA não possuem ambições pessoais, ganância, interesses financeiros, suscetibilidade a subornos e pressões de lóbis ou motivações políticas. Uma AItocracia eliminaria a corrupção, o nepotismo e a apropriação privada de recursos públicos. As decisões seriam baseadas em lógica algorítmica e critérios pré-estabelecidos, não em favoritismo ou autopreservação. Uma experiência do governo da Albânia – a “nomeação” simbólica (em setembro de 2025) de Diella, uma avatar e assistente de IA, como ‘Ministra de Estado para a IA’ com a função de supervisionar e gerir processos de contratação pública para tentar eliminar a corrupção nos concursos do Estado – revelam interesse político, mas é duvidoso que venham efetivamente a contribuir para a finalidade referida;
decisões baseadas em dados e objetividade: a IA opera através de análise sistemática de evidências, sem vieses emocionais ou ideológicos. Em teoria, decisões sobre políticas de saúde, educação, infraestrutura e justiça seriam fundamentadas em dados científicos e métricas de eficácia comprovada, não em retórica política ou preferências partidárias. A capacidade do processamento de big data permite analisar padrões complexos e antecipar crises económicas, climáticas e sanitárias com uma precisão e velocidade inalcançáveis pelo cérebro humano;
capacidade preditiva e prevenção: os sistemas de IA podem analisar tendências futuras com base em padrões históricos e atuais, permitindo que os governos antecipem crises económicas, epidemias, conflitos sociais ou degradação ambiental. Isto proporcionaria uma vantagem significativa na prevenção de problemas antes que se tornassem graves;
coerência e consistência normativa: Uma AItocracia aplicaria leis e regulamentos de forma absolutamente uniforme, sem discriminações arbitrárias ou interpretações subjetivas. O sistema trataria todos os cidadãos sob os mesmos critérios, eliminando a variabilidade que resulta de diferentes juízes, funcionários ou políticos com visões distintas.
Apesar do apelo de imparcialidade e eficiência, a delegação do poder soberano a algoritmos comporta vulnerabilidades profundas:
o problema da legitimidade democrática: a IA não possui legitimidade democrática. Os governos democráticos derivam o seu poder do consentimento dos governados e da possibilidade de responsabilização política. Uma IA não pode ser eleita, não presta contas aos cidadãos da mesma forma, e as decisões não resultam de deliberação democrática. Isto representa um retrocesso fundamental em relação aos princípios de autodeterminação colectiva;
opacidade e ausência de responsabilidade: o fenómeno da “caixa-preta” nos modelos de aprendizagem profunda torna quase impossível rastrear como certas decisões foram tomadas, inviabilizando o controle social e a prestação de contas;
reprodução e perpetuação de preconceitos: apesar da promessa de objetividade, a IA herda os preconceitos dos dados com que foi treinada e das escolhas de design dos seus criadores. Os dados de treino de um sistema refletem as desigualdades e preconceitos históricos de uma sociedade. Se os dados históricos refletem discriminações (raciais, de género, de classe), o algoritmo perpetuá-las-á e legitima-las-á com uma aura falsa de neutralidade matemática ou científica. Além disso, as pessoas que programam os sistemas de IA têm valores e perspectivas que moldam, inevitavelmente, as prioridades do sistema;
desumanização e falta de empatia: a IA carece de compreensão genuína da experiência humana, sofrimento e nuances morais. A política não é apenas um problema de otimização matemática; envolve dilemas éticos, compaixão e negociação de valores morais – faculdades intrinsecamente humanas que não se consegue codificar. Decisões sobre política social, justiça criminal, saúde mental ou direitos humanos exigem sensibilidade, compaixão e discernimento que algoritmos não possuem. Uma AItocracia poderia produzir decisões “ótimas” em termos estatísticos, mas desumanas em termos éticos;
vulnerabilidade a ataques e manipulação: sistemas centralizados de IA são alvos atractivos para hackers, Estados adversários e atores maliciosos. Um ataque bem-sucedido a uma AItocracia poderia comprometer a integridade de todo o sistema governamental. Além disso, os criadores e controladores da IA teriam poder desproporcional para manipular os algoritmos em seu favor ou do seu grupo;
o problema da transparência e explicabilidade: muitos dos sistemas de IA mais poderosos (como as redes neurais profundas) funcionam como “caixas negras”, i. e., não é possível compreender completamente como chegaram a uma decisão específica. Isto torna impossível para os cidadãos contestar ou compreender as razões pelas quais uma política foi implementada ou por que foram afetados de uma forma particular;
rigidez e incapacidade de adaptação criativa: embora a IA seja excelente a optimizar dentro de parâmetros definidos, carece de verdadeira criatividade e capacidade de reimaginar categorias. Grandes transformações sociais – a abolição da escravatura, a extensão dos direitos de voto, o reconhecimento de novos direitos – frequentemente exigem ruptura com a lógica do sistema existente, não otimização dentro dele. Uma AItocracia poderia ficar presa em ciclos de pensamento que reproduzem estruturas existentes;
desemprego em massa e destabilização social: uma IA governando com eficiência máxima eliminaria muitos postos de trabalho, não apenas administrativos, mas em praticamente em todos os sectores. Sem mecanismos democráticos para negociar esta transição, o resultado poderia ser desemprego massivo, desigualdade extrema e instabilidade social catastrófica;
dependência tecnológica perigosa: uma sociedade inteiramente dependente de sistemas de IA para governação criaria vulnerabilidades críticas. Falhas técnicas, bugs não previstos ou mudanças no ambiente poderiam causar um colapso sistémico. Além disso, a sociedade perderia as competências e estruturas para governar-se a si mesma sem a IA, criando uma dependência irreversível.
Até hoje, nenhum país transferiu poder político ou executivo (como cargos do governo) para um sistema de IA; a responsabilidade jurídica e a decisão final continuam a pertencer apenas a humanos.
Contudo, vários governos parecem estar na vanguarda da transição para o chamado “Estado Agêntico”, delegando poderes administrativos, de compliance, de análise de políticas públicas e de atendimento direto a agentes de IA de alto nível.
Os EAU lideram globalmente a corrida para a integração estrutural da IA na administração pública. O seu governo estabeleceu metas agressivas para incorporar IA agêntica em metade de todas as operações federais. Os ministérios e entidades públicas são avaliados diretamente com base em critérios como a velocidade de adoção de sistemas autónomos, a qualidade técnica da implementação e a reestruturação de fluxos de trabalho em torno de ferramentas inteligentes.
A Ucrânia tem-se destacado na implementação prática de uma arquitetura estatal baseada em agentes de IA especializados. O modelo ucraniano divide as funções operacionais e de apoio governamental entre três grandes agentes autónomos:
Um voltado para o atendimento direto à população.
Outro dedicado ao apoio e otimização do trabalho dos servidores públicos.
Um terceiro focado exclusivamente em compliance, auditoria e conformidade regulatória.
Conhecida como um dos países mais digitalizados do mundo (através do seu ecossistema e-Estonia), a Estónia está a desenvolver enquadramentos pioneiros de identidade digital adaptados especificamente para agentes de IA. O objetivo é permitir que softwares autónomos operem processos administrativos em nome do Estado com segurança jurídica e interoperabilidade técnica avançada.
Dados de observatórios internacionais especializados em inovação pública indicam que dezenas de países já testam ou operam centenas de iniciativas de agentes de IA na máquina pública.
Em contrapartida, cresce o movimento diplomático de estados (como Espanha, Alemanha, Noruega, Austrália, entre outras) que assinaram acordos e compromissos para traçar “linhas vermelhas”, exigindo que o controlo e a supervisão de decisões críticas permaneçam estritamente sob alçada humana, de modo a evitar zonas cinzentas de responsabilidade jurídica em caso de falhas sistémicas. A legislação da UE pode dar um importante contributo neste domínio, em especial atento o conhecido “Efeito Bruxelas”.
Porém, apesar de estarmos longe de uma AItocracia no sentido inicialmente acima referido – um modelo de governança no qual sistemas de IA assumem um papel central na formulação de políticas públicas, afetação de recursos e aplicação da justiça, reduzindo ou até substituindo a intervenção humana – assistimos a uma concentração do desenvolvimento de IA em algumas (poucas) empresas, que está a criar dinâmicas que podem conduzir as sociedades em direção a um cenário no qual a IA exerce gradual influência desproporcionalmente elevada sobre decisões políticas, económicas e sociais. Exploremos as principais dimensões disso.
5.1. Poder de mercado e controlo tecnológico
Empresas como a OpenAI, Google DeepMind, Meta, Anthropic e algumas (poucas) mais, controlam a maioria dos modelos de IA mais avançados e dos recursos computacionais necessários para treiná-los. Esta significativa concentração cria uma barreira de entrada extraordinariamente alta para competidores: custos de infraestrutura na casa de milhares de milhões de euros, dados de treino proprietários e expertise concentrada.
Quando tão poucos atores controlam a tecnologia subjacente, eles ganham poder desproporcional sobre:
Quais problemas a IA resolve (e quais ignora).
Como os algoritmos são treinados e que vieses incorporam.
Quem tem acesso e em que termos.
Como a tecnologia é regulada (frequentemente mediante “auto-regulação”).
5.2. Influência sobre decisões críticas
Sistemas de IA concentrados já influenciam diversos mercados:
Sistemas de justiça criminal: algoritmos de predição policial e risco de reincidência afetam sentenças judiciais;
Crédito e finanças: decisões de empréstimo e seguros são cada vez mais automatizadas;
Saúde pública: triagem diagnóstica, alocação de recursos médicos.
Política: processamento de dados para campanhas, moderação de conteúdo em plataformas;
Emprego: seleção de candidatos, vigilância de produtividade.
À medida que se passar de sistemas de IA que são instrumentos de tomada de decisões humanas para verdadeiros agentes de IA com total autonomia de decisões críticas em muitos processos burocráticos, será necessário regular o problema da responsabilidade: se uma IA toma decisões sobre crédito, justiça ou saúde, quem é responsável? Ou, mantendo-se a recusa de atribuição de personalidade jurídica a IAs, deve a responsabilidade ser difusa (dos criadores do algoritmo, dos gestores de dados e das probabilidades, de quem implementa a IA)?
5.3. Concentração de expertise e poder institucional
Os melhores pesquisadores em IA trabalham maioritariamente em grandes empresas tecnológicas. Esta concentração de expertise significa que:
o diálogo sobre segurança, ética e risco em IA acontece largamente dentro dessas empresas, não em espaços públicos;
governos enfrentam uma assimetria de informação – dependem das mesmas empresas para entender a tecnologia que precisam de regular e supervisionar;
captura regulatória: as empresas que desenvolvem IA também moldam o enquadramento regulatório. Regulações “amigáveis” e próximas com estas grandes empresas podem solidificar o seu domínio e impedir concorrência;
agências regulatórias frequentemente contratam ex-funcionários dessas empresas ou são influenciadas pelos seus lóbis.
Isso cria um ciclo de dependência estrutural no qual estas empresas tecnológicas ganham poder não apenas tecnológico, mas também político e regulatório. Governos e instituições ficam dependentes de sistemas de IA controladas por conglomerados privados. Qualquer decisão sobre políticas públicas passa pela aprovação tecnológica dessas empresas. A atual situação de promiscuidade entre a liderança política nos EUA e as empresas de Big Tech é bem ilustrativa deste risco.
Por outro lado, essas decisões frequentemente refletem valores e escolhas das empresas que as desenvolvem – nem sempre alinhadas com o interesse público. Uma pequena elite de gestores e especialistas em IA acaba definindo, indiretamente, políticas (que deviam ser) públicas que afetam milhões de pessoas.
Além disso, o controle sobre a moderação de conteúdo e os algoritmos de recomendação significa uma seleção de narrativas e o controle sobre que informações circulam e o que é considerado “verdade” socialmente.
5.4. Contrapontos e mitigações
Alguns fatores podem contrariar essa trajetória de concentração do desenvolvimento da IA em (poucas) empresas, que não está pré-determinada por ninguém:
código aberto: modelos open-source (Llama, Mistral, etc.) reduzem dependência de gigantes tecnológicas, embora ainda exijam recursos substanciais;
regulação: leis como o Regulamento Europeu da Inteligência Artificial (EU AI Act) tentam criar regras que limitam o poder corporativo.
Competição: Novas empresas emergem constantemente; o cenário é dinâmico;
pressão pública: escrutínio sobre vieses, privacidade e uso de dados pode forçar mudanças.
Conclusão
A AItocracia surge, para muitos, como uma tentadora resposta à crise de representatividade e à ineficiência das democracias liberais contemporâneas. No entanto, ceder a soberania e o poder decisório a sistemas algorítmicos em nome da eficiência pura acarreta o risco de converter o governo numa tecnocracia inflexível e inacessível.
No curto prazo, o risco real não é que máquinas “tomem o poder” político ou económico, mas que aumentem o seu poder fáctico em milhentas burocracias e decisões intermédias que já executam parcialmente e de que a nossa vida depende – no acesso à saúde, à justiça, à segurança social, a crédito bancário, etc. Todavia, transferir o poder decisório para sistemas automatizados ou agentes de IA não elimina o poder, apenas o desloca para as corporações tecnológicas que projetam, treinam e mantêm esses algoritmos.
Um risco maior reside na possibilidade, se não probabilidade, de o poder sobre máquinas inteligentes ser capturado por algumas (poucas) entidades, sobretudo se tais entidades usarem essa influência para moldar a sociedade de forma alinhada com os seus interesses e os dos seus acionistas ou donos, não necessariamente com o interesse público.
Isto não é ficção científica, mas economia política e teoria do poder – uma versão high-tech de concentração histórica de poder tecnológico.
A concentração do desenvolvimento da IA em (poucas) empresas não garante AItocracia, mas cria condições para ela ser possível, pelo menos em algumas áreas.
Em suma, o desafio do futuro não reside em substituir o discernimento humano pela IA – com risco de perda de controle ético –, mas sim em utilizar a IA como uma ferramenta de suporte que amplie a transparência e a capacidade analítica, preservando o valor insubstituível do debate axiológico e da dignidade humana na política.