“A tecnologia digital está a desempenhar um grande papel na erosão da democracia”

No livro conta, no início, que o seu avô, o soldado Fred, desobedecendo a ordens, foi a casa ter com a família. E acordou no dia seguinte com a notícia de que o Dia D estava a acontecer. Ainda foi a tempo de meter-se no comboio, se juntar à sua companhia e participar no desembarque na Normandia, cumprindo a sua parte nos planos do general Eisenhower. Que lições se podem tirar desse episódio para o debate em torno da Inteligência Artificial (IA)?

O que tento com esse episódio é recuperar algo que tem estado fora do debate, que é a importância da família e do conforto em casa. Claro, que aquilo que Eisenhower planeou é extraordinário, mas uma das coisas que ajudou o desembarque a ser extraordinário foi a forma como visitava as tropas, como falava com os soldados que no dia a seguir iriam combater. Então, por um lado, ele estava a tomar decisões que envolviam milhares de pessoas como o meu avô, mas soldados como o meu avô Fred tinham de manter um equilíbrio entre o dever para com a família e o seu dever para com o país, com objetivos políticos a grande escala. Hoje, discutimos a IA como uma entidade que é um agente racional, mas não houve nada de racional no que o meu avô fez, fosse visitar a família ou participar no Dia D. No meu livro, sendo sobre IA, tentei incluir este tipo de histórias, pois acho que estamos a falar demasiado da tecnologia como se fosse algo à parte da vida das pessoas.

Fala também do esforço de descodificação do código alemão, do trabalho dos cientistas em Bletchley Park, da máquina Colossus. E a dada altura menciona a Amazon e a forma como usa a tecnologia para otimizar vendas. É possível ver uma continuidade entre o Colossus e as máquinas pré-computadores e a IA?

Sim. E essa continuidade também está ausente do debate. Se olharmos um pouco para trás, para a invenção da imprensa, é evidente que existe uma continuidade entre a máquina que imprimiu a chamada Bíblia de Gutenberg e todos os livros que foram sendo impressos na Europa a partir do século XV. A velocidade a que o conhecimento era distribuído aumentou e muito. O que estou a tentar sublinhar é que o repositório do conhecimento humano já não está em livros, está em máquinas. E o que se vê desde o desenvolvimento do Colossus até chegarmos à Amazon, e poria também o Facebook nisto, é essa mudança. É a história de uma mudança e de uma mudança permanente. Claro, que por vezes parece haver um grande momento, como quando o ChatGPT surge à superfície como algo que afeta a sociedade, mas na realidade a tecnologia está em mudança constante. E temos que perceber o quanto está subjacente à mudança tecnológica, para tirarmos as lições certas. Por exemplo, uns 60 ou 80 anos depois da máquina de Gutenberg, temos Lutero a imprimir as suas ideias. Também tivemos a tecnologia do Colossus nos anos 1940 e assistimos agora a uma nova série de desafios. Olhemos para o Brexit ou para a primeira eleição de Trump.

Vê ligação entre as novas tecnologias surgidas na Segunda Guerra Mundial e fenómenos políticos atuais?

Claro. Estão profundamente relacionados. Certamente, não é a tecnologia de há 80 anos o único fator explicativo, tal como a queda de Constantinopla em 1453 não explica por si só o sucesso do Império Português no Oriente. Mas o que quero sublinhar é que estamos a viver uma mudança enorme que é esta passagem da cultura escrita para a cultura digital.

A dado momento, no livro, afirma que a invenção da imprensa por Gutenberg ajuda a difundir o conhecimento, mas que usada por movimentos ideológicos ou religiosos, a par de coisas positivas, também trouxe muita violência. Pode vir a acontecer com a IA?

Sim, é o mesmo processo. Fragiliza a segurança. É o problema da tecnologia controlar o movimento da informação. Vejamos o que se passava antes da imprensa, pelo menos no Ocidente. Era o clero que controlava a informação. E o poder da igreja foi posto em causa pela imprensa, pois ao imprimir-se cada vez mais livros cada vez mais gente podia escrever e ler. Isso trouxe mais conhecimento e conhecimento é poder. A segurança é mantida através do controlo da informação e isso não é automaticamente algo negativo. Não estou certo de que a Igreja Católica fizesse um trabalho perfeito, aliás ninguém pode fazer neste campo, mas tinha institucionalizado uma trabalho de curadoria, que desapareceu. Tenho falado com muitos jornalistas nesta passem por Lisboa. É quase emocional a experiência, pois estou a conversar com jornalistas que se esforçam por manter as tradições de curadoria no tratamento das notícias, mas enfrentam a concorrência de novos meios, criados pelas novas tecnologias.

Sócrates, Cícero, Gutenberg, Laplace, Wiener, Eisenhower. Há tantos nomes célebres da Filosofia, da História, da Ciências no livro. Isso reflete a sua personalidade? Imagina que a IA produziria com toda essa informação exatamente o mesmo livro, ou há a diferença do ser humano?

Reflete a minha personalidade, e os meus interesses, mas também reflete o meu esforço de construir uma narrativa. Eu não tinha esta informação toda na cabeça e simplesmente sentei-me e comecei a escrever. Pensei sobre certas coisas e procurei leituras adequadas. E algumas leituras fizeram-me pensar sobre ainda mais coisas e procurar novas leituras. E foi assim que surgiu, por exemplo, Wiener. Um amigo estava sempre a dizer-me o quanto era importante. E durante a pandemia arranjei uma biografia de Wiener e comecei a ler. Este processo é diferente do de uma máquina. As máquinas têm acesso a toda a informação graças à largura de banda de que são capazes. Nós humanos, mesmo quando estamos a lidar com uma questão intelectual, estamos a recorrer a mecanismos que primeiro foram experimentados quando a espécie tinha como prioridade encontrar comida.

Uma outra pessoa, que lidasse com informação similar, produziria um livro diferente. Mas a IA iria sempre produzir um livro igual?

Não. Mas se tivéssemos esta conversa há uns anos eu diria que tendo em conta as tecnologias de então de IA seria sempre o mesmo produto a ser feito. E isso era um problema. O que é interessante nos humanos é que se dermos a mesma informação a dois deles o resultado serão dois produtos diferentes, mesmo se forem peritos. Dado que a informação será limitada, e portanto há respostas que não sabemos, duas pessoas farão diferentes julgamentos e chegarão a conclusões diferentes. E isso é importante para a sobrevivência da espécie. O mais impressionante é que a IA foi forçada a lidar com tanto texto feito pelos humanos, a aprender com o que fazem os humanos, que recreou as suas características. Se fornecermos a mesma informação em dois momentos diferentes irá produzir uma diferente história e uma diferente explicação. Porque estará a copiar os humanos.

Está a dizer que se a IA é um produto do intelecto humano num dado momento reagirá como tal?

Sim, é onde estamos agora. É algo muito interessante e bizarro. Porque a história da IA era de que seria o derradeiro oráculo, como se fossemos a Delfos, perguntássemos e obtivéssemos verdade. Mas não há uma verdade, e esse é um dos mistérios da vida.

No livro, além de filósofos ocidentais, cita também um filosofo antigo chinês, Zhuang Zhou…

Esforcei-me por isso…[risos]

Quando se imagina um futuro de competição, talvez até de guerra aberta, entre os Estados Unidos e a China, e a IA como potencial arma, cada um terá uma IA a refletir os seus valores, a sua civilização? O ChatGPT e o Deep Seek terão lógicas próprias…

Estamos a regressar a um estado medieval de entendimento da nossa humanidade.

Está a criticar este entendimento do possível uso da IA?

Sim, mas é possível que aconteça. Tornou-se a narrativa dominante.

Mas surpreende-o que haja quem associe a IA com tecnologia de guerra, ou faz parte do processo?

Há muito tempo que se fala disso. Um colega meu tem estado preocupado com isso há mais de uma década. E tenho acompanhado o que tem feito. Penso que a campanha é contra as armas robotizadas e já a tinha feito chegar às Nações Unidas mesmo antes da excitação toda em volta da IA ter começado. E o tema da interação entre diplomacia internacional e sistemas autómatos era debatido de forma muito mais sofisticada porque acontecia nos bastidores. Agora essa conversação é agitada por tweets de certos indivíduos e é aí que os problemas começam, pois estas são questões complexas, e deviam estar a ser abordadas por uma diversidade de pessoas numa conversa franca e aberta. Mas se a abordagem é de guerra cultural e do medo de armas então a conversa fracassa.

Tentando fazer uma síntese: para si a IA não é positiva ou negativa, mas sim um reflexo da forma humana de pensar; e assim existir competição através do uso da IA é natural porque também há competição entre os humanos.

Preocupa-me aquilo que já falámos um pouco antes, o uso generalizado das tecnologias digitais para enfraquecer as nossas instituições democráticas e fazer-nos regredir para um estado das coisas que pensávamos ter ficado para trás. Estou aqui em Portugal, e vocês estão a celebrar 50 anos desde o fim da ditadura. Consegue imaginar a reação das pessoas que lutaram contra essa ditadura se lhes dissesse que dali a 50 anos o mundo poderia estar a regredir para certa forma de autocracia. Penso que ficariam em choque.

Pensa que a IA está a ter um papel nesse regresso das autocracias?

A tecnologia digital está a desempenhar um grande papel na erosão da democracia. Há uma compreensão muito pouco sofisticada do que é a democracia quando ouvimos os populistas. Se pensarmos na democracia, remontando ao pensamento de Aristóteles, ou ao dos Pais Fundadores dos Estados Unidos, ou a de qualquer pensador sofisticado, veremos que tem de existir um equilíbrio de poderes, e muitos destes detidos por instituições não eleitas. Por exemplo, no Reino Unido, o sistema judicial. Também uma imprensa livre é um dos pilares da democracia. No livro chamo a atenção para que uma sociedade precisa de profissionais, que podem remontar aos escribas da Mesopotâmia, que assumem as suas responsabilidades sociais como parte do seu papel. Portanto, não são apenas as tecnologias digitais, mas é parte do processo que muitas pessoas tenham sido prejudicadas pelas tecnologias digitais e a natureza das suas profissões minada socialmente.

É a favor de uma regulação?

Sim, mas infelizmente por causa da baixa qualidade da regulação, especialmente na Europa, o termo tornou-se um palavrão. E mais uma vez, isto acontece porque a conversa, em vez de ser feita por um grupo de peritos com o desejo de construir uma melhor sociedade e melhor resultados para todos como cidadãos, é feita em termos de quem vai ser o primeiro a regular a IA. Isso é absurdo. Estamos na situação ridícula de ver absurdos nos dois lados da equação. Por um lado, legisladores que estão desconectados da vasta maioria da população na ânsia de impor limites à IA. E, por outro lado, temos as grandes empresas tecnológicas a tentar proteger os seus mercados, a tentar mesmo serem as primeiras a capturar esses mercados. Estão tanto os legisladores como essas grandes empresas estão desconectadas dos cidadãos, porque se falarmos com as pessoas sobre o que esperam da IA a resposta é muito clara: querem melhor educação, mais saúde, todas essas coisas que as pessoas ambicionam.

Menciona no livro uma situação em que através da IA se monitoriza as chamadas telefónicas para uma rádio, a dar conta de pequenos problemas isolados na comunidade, e se prevê através dessa informação dispersa se alguma praga está prestes a ameaçar as colheitas, e tenta-se prevenir. Mas fala-se pouco destas situações positivas e muito mais da IA nas guerras do futuro.

Sim, mas faz parte da psicologia humana, não é? É parte da nossa condição humana sermos muito mais suscetíveis a consequências negativas, porque podem ser catastróficas. O que sinto é que no passado, quando surgia uma disrupção, como a industrialização, as pessoas eram capazes de se organizar para terem uma palavra a dizer. Por exemplo, na proteção de dados e não só, deveríamos também ter uma forma de lidar com as gigantes tecnológicas.

Têm demasiado poder?

Muito do institucionalismo democrático tem que ver com gerir as assimetrias de poder. É claro que tem de haver poderes, mas também é preciso freios a esses poderes. Na Idade Média, com o poder dos reis, esse freio era suposto ser Deus. Não funcionou muito bem. Se olhar para a História dos Estados Unidos, houve legislação no passado para prevenir as empresas de se tornarem demasiado grandes porque havia a memória de que aquilo que espoletou o Boston Tea Party foi a reação a um aumento dos impostos pela Coroa Britânica por causa da Companhia das Índias Orientais ter ficado na bancarrota. Agora, nos Estados Unidos essas grandes companhias minam em muitos aspetos a democracia. Porque se virmos como as grandes empresas respondem às mudanças no ambiente político é sempre na defesa dos interesses dos seus acionistas, e esses interesses são rendimentos e lucros.

Humano, demasiado humano

Neil D. Lawrence

Gradiva

495 páginas

26,50 euros