"Em breve, alguns governos e algumas empresas poderão saber o que cada um de nós está a pensar e a sentir"

Entrevista a Yuval Noah Harari, o historiador que escreveu Sapiens e se tornou o cientista mais credível sobre a evolução do ser humano, lança a edição especial de aniversário do DN, com o tema Passado, Presente e Futuro. (Publicado a 28 de dezembro de 2019)

Na primeira entrevista que Yuval Noah Harari deu para Portugal, ao DN, em 2017, o professor do departamento de História da Universidade Hebraica de Jerusalém já era um dos autores mais lidos no mundo inteiro. Tinha acabado de publicar Homo Deus - História Breve do Amanhã, uma investigação que assustava ou esclarecia definitivamente quem a lia. Entre os leitores mais famosos do livro anterior de Harari, Sapiens, estavam o ex-presidente Barack Obama, que disse ser o seu livro de mesa de cabeceira, bem como Bill Gates ou Mark Zuckerberg.

Em Portugal não têm faltado leitores de todo o género para os seus livros, sempre com edições esgotadas, e a razão é simples: tentar compreender o passado da humanidade e avaliar o que lhe poderá acontecer no futuro. Um futuro que estará mais próximo do que alguma vez se poderia imaginar e cuja presença embrionária já se verifica em vários setores da civilização atual, mesmo que passem despercebidos.

O próprio Yuval Harari assume a rapidez com que a realidade está a mudar e explica nesta entrevista que "quando escrevi Sapiens, em 2013-2014, não referia nada sobre a inteligência artificial, porque não achei que fosse importante. No entanto, durante estes cinco anos, a inteligência artificial passou por uma tremenda revolução. Neste momento é considerada a chave para dominar o mundo no século XXI".

Em Homo Deus, Harari faz uma antecipação do futuro muito pouco agradável ao avançar que a inteligência artificial e a biogenética irão destituir em breve as regras que gerem as sociedades em que vivemos: "No século XXI, a principal ambição humana não será meramente o controlo da fome, das epidemias e da guerra, mas transformar os humanos em deuses. E digo isto no sentido literal. Os seres humanos esforçar-se-ão por adquirir capacidades que foram inicialmente pensadas como capacidades divinas. Em particular, a capacidade de manipular e criar vida. Assim como na Bíblia Deus criou animais, plantas e seres humanos de acordo com os seus desejos, também no século XXI iremos provavelmente aprender como projetar e fabricar animais e plantas e, até, seres humanos segundo os nossos desejos. Iremos usar a engenharia genética para criar novos tipos de seres orgânicos; usaremos interfaces diretas cérebro-computador com o objetivo de criar seres que combinam partes orgânicas com partes inorgânicas; e podemos até conseguir criar seres completamente inorgânicos. Os principais produtos da economia do século XXI não serão têxteis, veículos e armas, mas corpos, cérebros e mentes. Foi por isso que dei ao livro o título de Homo Deus."

Ao virar de mais uma década, Yuval Harari nega que seja um profeta, mas mantém-se certo de que o pior cenário da inteligência artificial é "empurrar milhões de pessoas para fora do mercado de trabalho" e que estas rapidamente "perderão o seu valor económico e poder político". E fá-lo também com o cenário português, referindo que "o governo de Portugal não pode proteger o seu país contra uma guerra nuclear ou o aquecimento global" por si só, mas só se "cooperar com muitos outros governos". No que respeita a Portugal vai mais longe ao questionar como será a vida política nacional daqui a 20 anos, "quando alguém em São Francisco ou em Pequim conhecer toda a história médica e pessoal de todos os políticos, jornalistas e juízes do vosso país, incluindo escapadas sexuais, transações corruptas e fraquezas mentais"

Não será por acaso que, com todas as alterações do modo de vida do Homo sapiens, o historiador se interrogue sobre o seu desaparecimento da forma como o conhecemos no prazo máximo de um século.

"Não sou um profeta." Mais do que uma vez deu esta resposta. Não é, apesar do que tem escrito e que noutros tempos o faria profeta, ou não deseja ser?
Entendo que é muito perigoso transformar alguém em profeta. A partir do momento em que uma pessoa é idolatrada, essa pessoa pode começar a acreditar realmente no que os outros dizem sobre ela, e isso pode deixá-la com o ego inchado e insensata. Quanto aos fãs, uma vez que acreditam que há alguém que sabe todas as respostas, deixam de fazer qualquer esforço por si mesmos, pois esperam que o chamado profeta lhes forneça todas as respostas e todas soluções. E mesmo que o profeta lhes dê uma resposta errada, eles limitar-se-ão a aceitá-la. Portanto, espero que as pessoas leiam os meus livros mais como um livro de perguntas do que como um livro de respostas e me ajudem a procurar respostas em vez de esperarem que eu forneça todas as respostas. A um nível ainda mais profundo, ninguém pode ser profeta, porque o futuro não é determinístico. Existem muitas possibilidades, e todas dependem das decisões que tomamos. As novas tecnologias do século XXI, especialmente a inteligência artificial e a bioengenharia, decididamente irão mudar o mundo, mas também poderão ser usadas para criar tipos muito diferentes de sociedades.

"Mesmo que consigamos impedir a guerra nuclear e as alterações climáticas, a inteligência artificial e a bioengenharia estão destinadas a mudar completamente o mercado de trabalho, a ordem global e até os nossos próprios corpos e mentes."

O que é que o preocupa mais?
O pior cenário é o de a inteligência artificial vir a empurrar centenas de milhões de pessoas para fora do mercado de trabalho e para uma nova "classe inútil". As pessoas perderão o seu valor económico e o seu poder político. Ao mesmo tempo, a bioengenharia tornará possível elevar uma pequena elite a super-humanos. A resistência a essa elite sobre-humana será quase impossível devido a um regime de vigilância total que monitoriza constantemente não apenas o que cada indivíduo faz e diz, mas também o que cada indivíduo sente e pensa. O melhor cenário é o de as novas tecnologias virem libertar todos os seres humanos do fardo das doenças e do trabalho pesado e permitir que todos explorem e desenvolvam o seu verdadeiro potencial. A bioengenharia concentrar-se-á em curar todos, em vez de favorecer uma pequena elite. De facto, a inteligência artificial eliminará muitos empregos, mas os lucros resultantes permitirão a todos a oportunidade de seguir os seus sonhos, seja no campo da arte, do desporto, da religião ou do desenvolvimento das comunidades. A vigilância de última geração será usada não para espiar os cidadãos, mas o governo, para garantir que não haja corrupção. Qual destes cenários se tornará realidade? Não sei. Depende das decisões que todos nós tomarmos nos próximos anos.

É normal perguntarem-lhe quais são os maiores problemas que a população mundial vai enfrentar nas próximas décadas. A sua resposta continua a mesma ou, desde que publicou Sapiens e Homo Deus, já tem outras suspeitas?
Sapiens examina o passado humano analisando como um macaco insignificante se tornou o governante do planeta Terra. Não fala muito sobre o futuro. Os meus dois livros subsequentes - Homo Deus e 21 Lições para o Século XXI - focam-se no futuro e no presente. Neles, argumento que os três problemas mais importantes que a humanidade enfrenta atualmente são a guerra nuclear, o colapso ecológico e a disrupção tecnológica. Mesmo que consigamos impedir a guerra nuclear e as alterações climáticas, a inteligência artificial e a bioengenharia estão destinadas a mudar completamente o mercado de trabalho, a ordem global e até os nossos próprios corpos e mentes.

A palavra "global" é fundamental nesta situação?
Um problema adicional é o aumento crescente das tensões globais. Os três desafios existenciais que enfrentamos são de natureza global e, para os resolver, precisamos de ter uma cooperação global. O governo português não pode proteger Portugal contra a guerra nuclear ou o aquecimento global, a menos que coopere com os governos de muitos outros países. Da mesma forma, se tivermos medo do potencial disruptivo da inteligência artificial e da bioengenharia, não podemos esperar que o governo de Portugal ou mesmo a União Europeia (UE) regulem essas tecnologias sozinhos. Suponhamos que a UE proíbe a produção de sistemas de armas autónomas e proíbe bebés humanos sujeitos a engenharia genética. O que é que isso adiantará se os EUA produzirem robôs assassinos e os engenheiros da China produzirem super-humanos geneticamente aperfeiçoados? Muito em breve, até a UE ficará tentada a quebrar a sua própria proibição, com medo de ser deixada para trás. Dado o imenso potencial de tais tecnologias disruptivas, estas só podem ser reguladas através da cooperação global. Espero que, depois de lerem os livros, os leitores adotem uma perspetiva mais global sobre as questões políticas atuais. Isso não significa abandonar as lealdades nacionais. Não há contradição entre nacionalismo e globalismo, pois nacionalismo não é odiar estrangeiros. Nacionalismo é amar os seus compatriotas. E no século XXI, para proteger a segurança e a prosperidade dos nossos compatriotas, devemos cooperar com os estrangeiros. Portanto, bons nacionalistas devem ser também globalistas.

A democracia será um sistema político daqui a cem anos ou a revolução tecnológica tornará obsoleta a "pior forma de governo à exceção de todas as outras"?
É provável que as novas tecnologias minem todos os modelos políticos que herdámos do século XX, incluindo a democracia. Esses modelos terão de se adaptar às novas condições tecnológicas, caso contrário desaparecerão. A revolução tecnológica mais importante do século XXI é a capacidade de "piratear" os seres humanos. Piratear seres humanos significa entender os seres humanos melhor do que eles se entendem a si mesmos. Se um governo ou uma empresa nos entender melhor do que nós nos entendemos a nós próprios, poderão prever as nossas decisões, manipular as nossas decisões e até mesmo tomar decisões em nosso nome.

O que é necessário para essa atividade que descreve como piratear?
Para piratear os seres humanos são precisas três coisas: muito conhecimento biológico, muitos dados e muito poder computacional. Até hoje, ninguém foi capaz de fazer isso. Mesmo os regimes mais totalitários não tinham conhecimento biológico suficiente, dados suficientes e poder computacional suficiente para piratear sistematicamente milhões de pessoas. Assim, mesmo na Alemanha nazi ou na União Soviética, o governo não conseguia realmente saber o que cada pessoa estava a pensar e a sentir. Porém, em breve, alguns governos e empresas terão conhecimento biológico suficiente, dados suficientes e poder computacional suficiente para monitorizar todas as pessoas o tempo todo e saber o que cada um de nós está a pensar e a sentir. Quando isso acontecer, tanto a democracia como o capitalismo de livre mercado podem tornar-se obsoletos. Porque tanto a democracia como o capitalismo assumem que ninguém me conhece melhor do que eu. A democracia acredita na autoridade do eleitor individual. O capitalismo acredita na autoridade de consumidor individual. Então, o que acontece quando a autoridade muda de pessoas para algoritmos que nos entendem melhor do que nós nos entendemos a nós próprios?

Essa alteração poderá resultar em novas formas de governação?
Uma possibilidade é irmos assistir ao surgimento de novas ditaduras digitais, o que será pior do que qualquer coisa que vimos no século XX. Outra possibilidade é a democracia ser capaz de se reinventar de uma nova forma. A grande vantagem da democracia sobre a ditadura é que a democracia é muito mais flexível. Quando um ditador comete um erro, geralmente recusa-se a admiti-lo e a tentar outra coisa diferente. Em vez disso, o ditador atribui a culpa a "inimigos externos" ou a "traidores internos", e diz que precisa de ainda mais poder para combater esses inimigos e traidores. Os governos democráticos estão muito mais dispostos a admitir os seus erros e a mudar de rumo. É por isso que, a longo prazo, as democracias geralmente funcionam melhor do que as ditaduras. No século XX, a democracia enfrentou três grandes crises: a Primeira Guerra Mundial, a propagação do fascismo na década de 1930 e a expansão do comunismo nas décadas de 1950 e 1960. De todas as vezes, as pessoas pensavam que tinha chegado o fim da democracia. E de todas as vezes a democracia reinventou-se e emergiu da crise ainda mais forte do que antes. Espero que a democracia consiga fazer isso novamente no século XXI.

Ainda se lembra do tempo em que a inteligência artificial era uma espécie de ficção científica e não uma realidade, bem como os algoritmos ou as estruturas de dados eram incapazes de eleger presidentes e alterar em minutos o rumo da opinião pública, para o bem e para o mal, do planeta?
Há apenas cinco anos, quase ninguém falava sobre inteligência artificial, exceto alguns fanáticos de informática. Quando escrevi Sapiens, em 2013-2014, não falei nada sobre a inteligência artificial porque não achei que fosse importante. No entanto, durante estes cinco anos, a inteligência artificial passou por uma tremenda revolução. Agora toda a gente está a falar no assunto. Neste momento é considerada a chave para dominar o mundo no século XXI. Mas muitas pessoas ainda não entendem o que é inteligência artificial e por que é perigosa. Elas são enganadas por cenários de ficção científica que falam sobre um futuro em que robôs e computadores ganham consciência e se rebelam contra a humanidade. Muitas pessoas tendem a confundir inteligência com consciência e assumem que, para se equipararem à inteligência humana, os computadores terão de desenvolver a consciência. Mas, na realidade, os computadores podem superar os seres humanos sem nunca ganharem consciência, porque inteligência e consciência são coisas muito diferentes.

A inteligência humana não é compatível com a dos computadores?
A inteligência é a capacidade de resolver problemas. A consciência é a capacidade de sentir coisas como dor, prazer, amor e raiva. Nos seres humanos e noutros mamíferos, a inteligência anda de mãos dadas com a consciência. Banqueiros, motoristas, médicos e artistas confiam nos seus sentimentos para resolver certos problemas. No entanto, os computadores podem resolver esses problemas de uma maneira muito diferente dos humanos, e não há absolutamente nenhuma razão para pensar que eles desenvolverão consciência no processo. No último meio século, houve um imenso avanço na inteligência computacional, mas houve exatamente zero avanço na consciência computacional. Tanto quanto sabemos, os computadores hoje não são mais conscientes do que os seus protótipos na década de 1950, e não há indicação de que estejam em algum ponto do caminho para o desenvolvimento de consciência. Pode haver vários caminhos alternativos que levam à superinteligência e apenas alguns deles envolvem ganhar consciência. Assim como os aviões voam mais rapidamente do que os pássaros sem nunca desenvolverem penas, também os computadores podem resolver problemas muito melhor do que os humanos sem nunca desenvolverem sentimentos. Obviamente, para tratar doenças humanas, identificar terroristas humanos, recomendar parceiros humanos e navegar por uma rua cheia de peões humanos, a inteligência artificial precisará de analisar com precisão os sentimentos humanos. Mas poderia fazê-lo sem ter quaisquer sentimentos próprios.

"Enquanto no passado as pessoas tinham de lutar continuamente contra a exploração, no século XXI a grande luta será contra a irrelevância. Os que fracassarem nessa luta constituirão uma nova 'classe inútil'."

A que se deve esta divergência no entendimento sobre a consciência na inteligência artificial?
Penso que grande parte dessa confusão entre inteligência e consciência é culpa dos filmes de ficção científica. Muitos desses filmes descrevem como um computador ou robô inteligente ganha consciência, e então ou o cientista se apaixona pelo robô, ou o robô tenta matar todos os humanos, ou as duas coisas acontecem ao mesmo tempo. Isso está muito longe da realidade. Na verdade, está tão longe da realidade que eu suspeito que esses filmes não sejam realmente sobre inteligência artificial, são sobre outra coisa. Na maioria desses filmes, o robô é do sexo feminino, enquanto o cientista que se apaixona pelo robô é do sexo masculino. Considero que esses filmes não são sobre o medo humano de robôs inteligentes, são, sim, sobre o medo masculino de mulheres inteligentes. Eles são sobre feminismo, não sobre inteligência artificial. O verdadeiro perigo da inteligência artificial não são os robôs conscientes que se rebelam contra a humanidade. O verdadeiro perigo é que uma inteligência artificial muito obediente empodere uma pequeníssima elite humana, ao mesmo tempo que enfraquece e oprime a maior parte da humanidade.

Quem serão os beneficiários da disrupção tecnológica: uma pequena elite que domina o pensamento, o poder e a riqueza ou a humanidade por completo?
Isso depende das decisões que tomarmos nos próximos anos. A inteligência artificial poderá criar uma desigualdade sem precedentes. A automação em breve eliminará milhões e milhões de empregos e, embora certamente surjam novos empregos, não está claro que as pessoas serão capazes de aprender as novas aptidões necessárias com suficiente rapidez. Pessoas que não têm o apoio financeiro ou a força psicológica indispensáveis para se reinventarem repetidamente podem tornar-se irrelevantes. Enquanto no passado as pessoas tinham de lutar continuamente contra a exploração, no século XXI a grande luta será contra a irrelevância. Os que fracassarem nessa luta constituirão uma nova "classe inútil" - pessoas que são inúteis não do ponto de vista dos seus amigos e familiares, mas do ponto de vista do sistema económico e político. Essa classe inútil será separada por um fosso cada vez maior de uma elite cada vez mais poderosa. A revolução da inteligência artificial pode criar uma desigualdade sem precedentes, não apenas entre classes mas também entre países. Já estamos no meio de uma corrida ao armamento de inteligência artificial, com os EUA e a China a liderar a corrida, enquanto a maioria dos países ficam para trás. A menos que tomemos medidas para distribuir os benefícios da inteligência artificial entre todos os seres humanos, esta irá provavelmente criar uma imensa riqueza em alguns centros de alta tecnologia, enquanto outros países poderão falir ou tornar-se colónias de dados exploradas.

Essa nova realidade já tem paralelos anteriores na história do homem?
No século XIX, alguns países como a Grã-Bretanha e o Japão foram os primeiros a industrializar-se e passaram a conquistar e a explorar a maior parte do mundo. Se não tomarmos cuidado, o mesmo acontecerá com a inteligência artificial. Não estamos a falar de um cenário de ficção científica do género Terminator, com robôs a rebelar-se contra seres humanos. Estamos a falar de uma inteligência artificial muito mais primitiva que, no entanto, é suficiente para perturbar o equilíbrio global. O que acontecerá com as economias em desenvolvimento quando passar a ser mais barato produzir têxteis na Califórnia do que nas Honduras? E como será a política em Portugal daqui a 20 anos, quando alguém em São Francisco ou em Pequim conhecer toda a história médica e pessoal de todos os políticos, jornalistas e juízes do vosso país, incluindo escapadas sexuais, transações corruptas e fraquezas mentais? Será um país independente ou uma colónia de dados? Mas gostaria de enfatizar que tudo isso são apenas possibilidades, não são certezas. Ainda podemos impedir que venha a acontecer. Ainda podemos assegurar-nos de que a inteligência artificial serve a todos os seres humanos, em vez de a uma pequena elite. Para dar apenas um exemplo, consideremos a vigilância. Atualmente, os engenheiros estão a desenvolver ferramentas de inteligência artificial para monitorizar os cidadãos ao serviço de governos e grupos empresariais. Mas podemos desenvolver ferramentas de inteligência artificial que monitorizem os governos e as empresas ao serviço dos cidadãos. Tecnicamente, é muito fácil desenvolver uma ferramenta de inteligência artificial que exponha a corrupção. Para um cidadão, é impossível examinar todos os dados e descobrir quais foram os políticos que nomearam os seus parentes para empregos lucrativos no governo. Para uma inteligência artificial, isso levaria dois segundos. Gostaria de ter uma aplicação onde digitasse o nome de um político e, em dois segundos, obtivesse uma lista de todos os membros da família que o político nomeou para cargos no governo? Não espere que seja a Google a desenvolvê-la. Faça você mesmo.

Perfil
Nascido em Israel em 1976, Yuval Noah Harari é filho de pais judeus que partilham ascendência libanesa e da Europa Oriental e cresceu em Haifa. Casou-se no Canadá com Itzik Yahav, que gere a sua carreira e diz que o marido é a "internet que me liga ao mundo". Vivem numa comunidade moshav, uma cooperativa de agricultores, perto de Jerusalém. Harari é vegano e tem-se dedicado à meditação duas horas por dia desde que esteve em Oxford, em 2000, considerando que esta prática lhe facilita uma visão mais esclarecida nos seus estudos. Apesar de todos os seus veredictos tecnológicos sobre o futuro da humanidade e da atual civilização, Harari recusa usar o smartphone.

Livros

Sapiens: História Breve da Humanidade

Homo Deus: História Breve do Amanhã

21 Lições para o Século XXI

Yuval Noah Harari

Editora Elsinore

Mais Notícias

Outros conteúdos GMG