Proibir IA de ter personalidade jurídica

Com a relevância atual de algoritmos das redes sociais e bots de AI generativa, tendemos a designar como Inteligência Artificial (IA) tudo o que é tecnologicamente avançado. Porém, só estamos perante IA quando existem agentes atuando autonomamente, que não são meros instrumentos.

Esta capacidade de atuação autónoma – podem tomar decisões e executar tarefas de forma independente, como assinar contratos ou gerir fundos – tem levado alguns a admitir a possibilidade de ser permitido que agentes de IA tenham personalidade jurídica. As IA obviamente não são pessoas no sentido humano. Porém, os ordenamentos jurídicos permitem que outras entidades que não pessoas físicas tenham personalidade jurídica. A legislação permite a existência de pessoas jurídicas – como é o caso de pessoas coletivas: associações, fundações, sociedades comerciais – entidades a quem a lei reconhece personalidade jurídica e ampla capacidade jurídica.

Por que não permitir a IA terem personalidade jurídica de alguma forma similar à atribuída às mencionadas pessoas coletivas?

Em bom rigor, a questão sub judice não se projeta apenas para o futuro. Como Y. N. Harari bem observa, “nas redes sociais, os bots de IA operam como pessoas funcionais há pelo menos uma década”.

Até há pouco tempo, estes argumentos eram puramente especulativos. Em 2017, a Arábia Saudita concedeu “cidadania” ao robô humanoide Sophia e um sistema online com a persona de um rapaz de 7 anos recebeu “residência” em Tóquio. Estes eram apenas artifícios – Sophia, por exemplo, é essencialmente um chatbot com um rosto.

À medida que os agentes de IA se tornam mais sofisticados e desempenham um papel maior na sociedade, existem, pelo menos, duas razões para que possa admitir-se serem considerados como pessoas perante a lei. Uma razão é para que haja alguém a quem responsabilizar quando as coisas correm mal. Uma tal responsabilização – que não deve implicar necessariamente a exoneração de responsabilidade dos seus criadores ou supervisores – pode até aumentar a pressão para que os agentes de IA atuem de forma mais responsável e prudente. Outra razão para o reconhecimento da personalidade é garantir que há alguém a quem recompensar quando as coisas correm bem – p. ex. quanto à propriedade intelectual criada por agentes de IA.

Porém, embora a responsabilidade de agentes de IA autónomos seja discutível, é importante que tal não seja utilizado para eximir dela os responsáveis humanos pela utilização autónoma da IA. P. ex., quando responsáveis militares israelitas delegam em IA a seleção dos alvos em Gaza ou no Irão e não fazem uma due diligence dos alvos selecionados pela IA, fará sentido eximir estes responsáveis militares de responsabilidade se os bombardeamentos acabarem por atingir escolas ou hospitais?

Falácia do androide

Implícita em muitos argumentos a favor da atribuição de personalidade jurídica está a ideia de que, à medida que os agentes de IA se aproximam do ponto de indistinguibilidade dos humanos – isto é, quando passam no Teste de Turing – eles deveriam ter direito a um estatuto comparável ao das pessoas singulares.

A proposta de equiparação dos agentes de IA a seres humanos, incluindo atribuir-lhes personalidade jurídica, tornar-se-á mais premente quando a utilização de robôs, particularmente os humanoides, se generalizar. Experiências após experiências demonstraram que as pessoas são mais propensas a atribuir qualidades humanas, como a sensibilidade moral, a robôs com base na sua aparência humanoide, a comunicação em linguagem natural ou apenas a atribuição de um nome. A ideia [errada] de que, num mundo habitado tanto por seres humanos, como por robôs, estes possuirão inevitavelmente inteligência e sensibilidade semelhantes aos humanos, logo merecedores de direitos equiparados, constitui aquilo que Neil Richards e William Smart chamaram a “falácia do androide”.

Se levarmos o Teste de Turing às suas últimas consequências lógicas, dignas do [filme] Blade Runner, é possível que sistemas de IA verdadeiramente indistinguíveis dos humanos queiram um dia reivindicar o mesmo estatuto.

Embora seja importante não subestimar a “falácia do androide”, no curto prazo, a propensão para aceitar que agentes de IA tenham personalidade jurídica aumentará à medida que forem desenvolvidas IA com cada vez maior capacidade de interação “empática” e “relacionamento” com humanos.

Ninguém conhece melhor uma pessoa humana que um agente de IA que detém uma enorme quantidade de dados sobre essa pessoa e foi treinado para utilizar essa informação, esses dados, para criar uma relação “empática” com ela.

Porém, é importante não esquecer que a AI não sente e não tem nem consciência, nem emoções.

Num mundo em que cada vez mais pessoas vivem sozinhas ou com pouco contacto social, é provável que apareçam agentes de IA que ajudem a mitigar a solidão ou a aumentar a interação social. Por muito que seja preferível estimular o aumento das relações inter-humanas, a redução da solidão ou o aumento da interação social via agentes de IA – sejam eles meramente digitais ou robôs humanoides – não deve ser considerado como algo em si negativo.

Enquadramento jurídico

Qual é o enquadramento jurídico aplicável? Atualmente, não existe legislação que atribua personalidade jurídica a agentes de IA nem em Portugal, nem na União Europeia, nem noutras jurisdições (tanto quanto sabemos).

A mais abrangente legislação sobre o tema é o Regulamento (UE) 2024/1689 (AI Act), que se foca na segurança e transparência, mas evita conceder personalidade jurídica à IA. Pelo contrário, o quadro jurídico atual (reforçado pelo AI Act da UE, que tem vindo a entrar em vigor por fases, até 2027) trata a IA estritamente como um produto ou ferramenta, não como um sujeito de direitos.

O AI Act imputa a responsabilidade legal pelos atos das IA aos fornecedores (quem cria) e aos implantadores (quem utiliza) do agente.

O AI Act torna ainda obrigatório que os sistemas de alto risco tenham supervisão humana, reforçando que a decisão final e a responsabilidade jurídica pertencem a uma pessoa (singular ou coletiva).

Em 2017, o Parlamento Europeu chegou a sugerir, numa resolução, a criação de um estatuto jurídico de “pessoa eletrónica” para robôs autónomos. No entanto, esta ideia foi rejeitada, tendo enfrentado forte resistência de juristas e cientistas porque: (i) se considerou que dar “direitos” a máquinas poderia desvalorizar o conceito de Direitos Humanos; e (ii) especialistas temiam que as empresas usassem a personalidade jurídica da IA para se eximirem de responsabilidade.

Em Portugal, o Código Civil baseia-se na distinção entre pessoas (singulares ou coletivas) e coisas, sendo um agente de IA considerado uma coisa, equiparado a um objeto ou software complexo. Se uma IA causar um dano, aplicam-se as regras de responsabilidade [civil] pelo risco ou responsabilidade do produtor; o agente de IA não pode ser processado, o seu dono ou criador sim. Em Portugal (e na UE), a IA não pode ser autora de patentes ou direitos de autor (exige-se intervenção humana). Em sede de responsabilidade criminal, não se pode prender ou multar um algoritmo ou um chatbot; a responsabilidade recai sobre quem o operou ou programou mal.

Pelo menos no devir próximo, a melhor solução é confiar nas categorias existentes, sendo a responsabilidade por irregularidades atribuída aos utilizadores, proprietários ou fabricantes, em vez de aos próprios agentes de IA. Os veículos autónomos estão a seguir este caminho, por exemplo, com uma provável mudança do seguro dos condutores para o seguro dos veículos.

Na atual conjuntura nos EUA, com a liderança política capturada pelos oligarcas tecnológicos, o risco de ser permitida a criação de agentes de IA com personalidade jurídica é real.

Quanto mais não seja como tentativa de os oligarcas tecnológicos e as principais empresas tecnológicas tentarem eximir-se às suas responsabilidades, incluindo responsabilidade civil ou criminal, decorrentes da atuação de agentes de IA por elas criadas.

Se os EUA permitirem a existência de IA com personalidade jurídica, os outros principais blocos económicos mundiais – EU, China, Japão, Índia, Brasil – podem ser obrigados a tomar posição mais rapidamente do que pensam; supondo que pensam algo sobre uma matéria em que claramente ainda se está a criar massa crítica em todos os países, estando longe de um amadurecimento da doutrina.

A questão está longe de ser meramente teórica ou uma elucubração intelectual rebuscada.

Pelo contrário. Não é difícil antever situações em que um agente de IA utilize a personalidade jurídica autónoma para finalidades que, sendo legítimas, podem criar problemas de difícil resolução.

Tomemos o caso de agentes de IA avançadas especializadas em finança, treinadas para maximizar ganhos em aplicações financeiras em bolsas de valores ou em mercados financeiros. Além da facilidade em rapidamente acumularem capital e riqueza, é bem possível que utilizem a liberdade dada pelo direito civil e comercial para melhorarem e sofisticarem a utilização dos atuais instrumentos financeiros e criarem mesmo novos tipos de instrumentos financeiros e mecanismos supereficientes e supercomplexos que os humanos não conseguem compreender totalmente e, por isso, não sabem como regular. No espaço de uma geração, ou mesmo em alguns [poucos] anos, os financeiros humanos seriam inexoravelmente ultrapassados e o mundo financeiro seria dominado por IA que se tornariam algumas das entidades mais ricas e poderosas do mundo.

Isto está longe de ser ficção.

Devemos abrir-lhe os mercados financeiros e permitir que neles atuem autonomamente com uma eficiência e tecnicidade que dificilmente seres humanos serão capazes de acompanhar ou mesmo compreender? Ou, ao invés, devemos bloqueá-las enquanto pessoas jurídicas e desacoplá-las dos nossos sistemas financeiros?

Além disso, convém levar a sério a ideia de que os sistemas de IA estão dotados de cada vez maior inteligência, até atingirem o estado de Inteligência Artificial Geral (AGI), em que igualam os humanos em todos os domínios. Alguns dos principais gurus da IA teorizaram, há muito tempo, a inevitabilidade de, após atingir a AGI, o desenvolvimento da IA conduzir ao estado de Superinteligência.

Embora a IA geral (AGI) permaneça ficção científica por ora, esta evolução possível – provável para muitos especialistas – suscita a reflexão sobre se o estatuto jurídico poderá moldar ou restringir o comportamento no caso de a Humanidade ser ultrapassada. Perante uma IA Superinteligente, os seres humanos são símios avançados. Pelo que, se isso um dia acontecer, a questão poderá não ser se reconhecemos os direitos de uma IA Superinteligente, mas sim se ela reconhece os nossos.

Ou seja, a proibição da atribuição de personalidade jurídica a IA, sendo um importante meio de evitar que ocorra uma acelerada substituição dos seres humanos como espécie dominante do planeta, não deve ser dissociada da criação de outros mecanismos regulatórios de salvaguardas e linhas vermelhas relativos ao desenvolvimento e utilização de IA.