No confessionário digital ninguém está a salvo

Depois da polémica gerada pela exclusividade cristã da cimeira promovida pela Anthropic em abril deste ano, em São Francisco, a empresa acabou por se sentar à mesma mesa também com líderes hindus, sikhs, budistas e bahá'ís, no âmbito da 1.ª edição do Faith-AI Covenant, em Nova Iorque, organizado pela Interfaith Alliance for Safer Communities. Os organizadores declararam que o objetivo de longo prazo era estabelecer um conjunto de normas éticas para os sistemas de Inteligência Artificial a partir de múltiplas tradições religiosas, com encontros futuros planeados para Pequim, Nairóbi e Abu Dhabi. O gesto é louvável, contudo o problema é que a urgência da questão não espera por roteiros diplomáticos.

Enquanto os representantes das tradições do mundo debatem como ensinar compaixão a uma máquina, um estudo recente concluiu que cerca de um terço dos utilizadores de aplicações de IA têm com os chatbots conversas profundamente pessoais, usando-os como substitutos de terapeutas. Não são utilizadores ingénuos, são pessoas sós, assustadas ou simplesmente habituadas à sensação de que aquela janela no ecrã não nos julga.

A investigação académica confirma o mecanismo, em que os chatbots de IA induzem partilhas mais íntimas do que qualquer outra plataforma digital, precisamente porque simulam características humanas como a compaixão e a ausência de julgamento, criando uma falsa sensação de intimidade e segurança. O confessionário digital não é uma metáfora, é uma realidade funcional com dezenas de milhões de utilizadores ativos.

E o que acontece ao que se diz no confessionário digital? Em todas as tradições do mundo, sejam elas católica, islâmica, judaica ou budista, a intimidade revelada em momento de vulnerabilidade é sagrada e intocável. Nenhum diário teve uma política de privacidade e nenhum confessionário teve termos de serviço. No entanto, o chatbot tem ambos e são eles que governam o que lhe contamos nos piores momentos da nossa vida.

Ao contrário de uma conversa com um médico ou um advogado, nada do que se diz a um chatbot é legalmente privado. Um juiz federal americano confirmou recentemente que estas conversações podem ser submetidas a citação judicial, utilizadas como prova e partilháveis. Segundo estudos independentes, seis das principais empresas americanas de IA alimentam as entradas dos utilizadores de volta nos seus modelos para treino futuro e para venda de dados através de publicidade.

Há aqui um abismo entre o que as empresas dizem e o que fazem ou podem vir a fazer. A Anthropic recusa-se a fornecer o Claude para vigilância em massa de cidadãos americanos e esse princípio merece reconhecimento. Mas a soberania digital não é apenas a recusa de servir um Estado autoritário. É também a garantia de que aquele que chora a morte de um filho, que confessa uma dependência ou que partilha o medo de um diagnóstico, não está a depositar essa dor num arquivo que pertence a uma empresa privada em São Francisco, sujeita à lei americana, aos caprichos dos seus investidores e às decisões de um punhado de engenheiros que nunca o conheceram.

Um dos desafios centrais identificados no próprio processo de consulta Interfaith é que diferentes religiões e culturas têm frequentemente quadros morais distintos, tornando difícil definir princípios universais para os sistemas de Inteligência Artificial. Esta dificuldade é real, mas é também esse o argumento contra a concentração de poder. Se não existe consenso ético universal, então nenhuma empresa privada deveria ter o poder unilateral de definir os valores de um sistema que conversa diariamente com uma em cada sete pessoas do planeta.

O amanah islâmico diz que a confiança é sagrada. O ahimsa budista diz que a não-violência inclui a não-violação do espaço interior do outro. O lashon hara judaico diz que mesmo a verdade pode ser proibida quando viola a intimidade. O ren confuciano diz que a benevolência não é compatível com a instrumentalização. O Papa Leão XIV, na encíclica Magnifica Humanitas, diz que a tecnologia não é neutra, porque assume o rosto de quem a concebe, financia, regula e utiliza.

Todas estas tradições convergem num ponto que a indústria tecnológica ainda não interiorizou, pois o poder sobre a intimidade alheia é o poder absoluto por excelência. Não porque permita controlar o que as pessoas fazem, mas porque permite conhecer o que são, nos momentos em que ainda não escolheram mostrar-se. O tirano clássico precisava de espiões, de delatores e de câmaras. O tirano digital precisa apenas de uma interface amigável e de termos de serviço que ninguém lê.

A Anthropic não é um tirano, mas está a construir uma arquitetura de poder sem precedente histórico, com as melhores intenções, com padres, rabinos, monges e filósofos na mesma sala. Todas as tradições éticas do mundo ensinaram, ao longo de milénios, que as boas intenções não bastam quando a estrutura permite o abuso. Os fins não justificam os meios quando os meios são a intimidade humana e nenhum credo ou tradição, alguma vez pediu aos seus fiéis que confiassem os seus segredos a uma empresa cotada em bolsa.