Algoritmos de distorção maciça

Segui a ligação para um vídeo no YouTube que prometia a "verdade" sobre o 11 de Setembro porque estava curiosa para ver de que variante argumentativa se tratava. Teorias da conspiração sobre o ataque de 2001 abundam nas franjas da sociedade americana, mas nunca houve tanta imaginação conspirativa como agora. Na coluna do lado direito, o site de partilha de vídeos tentava-me a continuar a busca: que tal um vídeo sobre Bill Cooper, assassinado por expor a verdade? E estas "evidências explosivas" relacionadas com o ataque?

Em poucos minutos, fiquei à mercê do algoritmo de recomendações do YouTube, um mecanismo de conteúdos relacionados que facilmente engolfam a pessoa numa bolha de realidade alternativa. Sem intervenção humana, a força de mil variáveis conduz a experiência online para câmaras de eco com paredes invisíveis, do YouTube ao Facebook. E em breve, este exército matemático vai conduzir também o resto da nossa vida.

Aquilo que estamos a fazer com a automatização parece positivo: dotar os zeros e uns da capacidade de organizar e sugerir, triar e descobrir, da forma mais científica que é possível. Sim, a ciência há de salvar o mundo, mas não se transferirmos para os algoritmos tudo o que existe de errado nele.

"A ideia de que usaremos dados e tudo será mais inteligente por causa deles é ridícula. Porque as decisões que tomamos são sempre uma mistura de factos, sentimentos e cenários em mudança. Não são apenas lógicas", disse-me o futurista Gerd Leonhard numa conversa recente. Os alarmes começam a soar lentamente. Estamos a construir uma nova era baseada em inteligência artificial (IA) que sofre de um problema crónico, causado por nós: preconceito.

Foi isso que descobriu Joy Buolamwini, a cientista afro-americana que fundou a Algorithmic Justice League depois de ser confrontada com a incapacidade de sistemas de reconhecimento facial - treinados maioritariamente com as caras de pessoas brancas - de detetarem o seu rosto de pele escura. Outras grandes empresas, como a IBM e o Facebook, começaram a abordar este problema de frente: é preciso retirar da IA os preconceitos inatos dos seus programadores. "Assim que um sistema aprender algo a partir de um conjunto de dados, tentará generalizar para cenários que nunca viu antes", disse Francesca Rossi no IBM Think 2018. "É importante ter um ambiente diversificado." Mas tal não é o caso em Silicon Valley, o epicentro destas inovações. As empresas são dominadas por homens brancos e os esforços para contratar mais mulheres e minorias avançam devagar.

Ninguém o pôs de forma tão eloquente quanto a matemática Cathy O"Neil, que escreveu um livro e deu uma TED Talk sobre o assunto. A ex--cientista de dados trabalhou em Wall Street a prever o comportamento do mercado de futuros e depois dos consumidores. "Percebi que estava a separar as pessoas por classe e raça", disse. "Estava a dar oportunidades a uns e a negá-las a outros."

Aqui reside o grande perigo. O YouTube pode afundar-nos numa espiral de vídeos de conspiração, mas os algoritmos usados por bancos, seguradoras, universidades e até tribunais têm impactos profundos na vida real das pessoas. Quem consegue um empréstimo? Quanto custará a apólice de seguro? Que currículos chegarão ao diretor de recursos humanos? Cathy sublinha algo muito problemático: os algoritmos não estão apenas a prever resultados, estão a causá-los. "Estamos a separar pessoas como vencedoras ou perdedoras da mesma forma que fazíamos antes e queremos transcender, através da classe social, do sexo e da raça", disse a autora de Armas de Destruição Matemática. "É um problema de mobilidade social. É codificar a desigualdade."

Talvez ainda estejamos a tempo de evitar que isto se torne catastrófico, se mais empresas levarem a sério a necessidade de reverem a programação e o treino dos seus sistemas de inteligência artificial. Os algoritmos, neste momento, não conduzem a maior equidade. Automatizam o statu quo com a gravidade acrescida de estarem envoltos numa autoridade matemática que poucos ousam questionar. "Muitas empresas de tecnologia gostam da ideia de algoritmos a dominar o mundo porque vendem o software que os desenvolve", sublinhou Gerd Leonhard. "Não faz sentido para nós", avisou. "Em muitos casos, será desumanizante."

Exclusivos