Pedro Domingos: “A inteligência artificial leva a uma democracia que funciona melhor do que aquela que temos hoje”

Como surgiu a ideia de escrever sobre umas presidenciais disputadas entre uma entidade de inteligência artificial (IA) e um suposto chefe índio apostado em destruir os Estados Unidos?Sempre achei que alguém devia escrever um romance sobre Silicon Valley. A minha inspiração foi A Fogueira das Vaidades, que é uma sátira muito bem apanhada de Wall Street nos anos 80, quando o mercado de capitais era a indústria icónica, que hoje é a tecnologia. Tentei convencer pessoas, incluindo jornalistas que gostam de escrever romances, mas nunca consegui, pelo que cheguei à conclusão de que, se calhar, o melhor seria eu escrever o livro. Sou um cientista, mas conheço o mundo da tecnologia bastante bem e por dentro - e há muitos anos aprendi a escrever ficção científica, pelo que estava minimamente qualificado..Pesou os prós e os contras de um cientista e académico fazer um projeto literário deste tipo?O maior contra foi o tempo significativo que gastei. Mas foi mais uma atividade de tempos livres, paralela à minha investigação. Já a grande vantagem, depois de ter falado com pessoas de todos os quadrantes, foi concluir que não havia nada melhor para as fazer ver o que é a IA do que escrever uma história a contar como é realmente. Embora seja uma farsa, tem uma finalidade educativa séria. Mas talvez esteja a racionalizar demasiado o processo, porque o que aconteceu é que há alguns anos, quando uma jornalista me perguntou “votava numa entidade de IA para presidente?”, respondi “não, mas se o outro candidato fosse o Trump, sim” (ri-se)..Escolheu 2040 como ano em que decorre o livro e a sátira como género literário. Ambas as coisas foram evidentes desde o início?Tinha de ser num ano de eleições nos Estados Unidos, e queria que fosse no futuro próximo, pois o livro, na realidade, não é sobre 2040, tal como O Triunfo dos Porcos não é sobre porcos. É uma caricatura de 2024, pelo que teria de ser numa data próxima, o mais próxima possível, para dar um sentido de urgência quanto a coisas que estão quase a acontecer ou mesmo a acontecer. Não podendo ser 2042, por não ser ano de presidenciais, julgo que 2040 foi uma boa escolha. Por outro lado, quando pensei escrever um romance sobre Silicon Valley, a sátira foi logo o género óbvio. Há tanto para satirizar... (risos).O livro 2040: A Silicon Valley Satire arranca com um debate presidencial tenso, em que o Presibot republicano perde a cabeça, literalmente, enquanto o Touro Enraivecido democrata desafia os limites da sanidade mental. Comparados com isto, os debates entre Donald Trump e Kamala Harris serão desenhos animados da Disney?O primeiro capítulo ilustra o chamado paradoxo de Moravec, segundo o qual coisas que parecem fáceis para a IA, por serem fáceis para seres humanos, na realidade são difíceis, e vice-versa. Isto tem implicações enormes para o futuro de vários empregos, pois é muito mais fácil automatizar um advogado ou um médico do que um operário da construção. O Presibot acaba por se sair muito bem nas coisas que diz tanto à moderadora como ao outro candidato. Mas quando alguém lhe aperta a mão, cai do palco. Isto é uma realidade: é muito mais difícil fazer um robô que não caia do palco ao apertarem-lhe a mão do que um Chat GPT que diz coisas certas. E um dos elementos de sátira é a comparação entre o Presibot e candidatos reais: o Biden deixou-se cair, o Trump é impossível de controlar, a Kamala diz disparates uns a seguir aos outros....O Touro Enraivecido apresenta-se como um índio lakota apostado em vingar-se dos colonialistas, apesar de ser um branco de vaguíssima ascendência nativa. Inspirou-se na senadora Elizabeth Warren, que disse ser nativo-americana, levando Trump a tratá-la por Pocahontas?Esse candidato combina muitas coisas. Tem a piada de não ser índio, tal como Elizabeth Warren, mas há outras mais importantes. O Presibot é uma fraude, mas ele é uma fraude ainda maior: é um influenciador de redes sociais que fez o stunt de que iria acabar com os Estados Unidos, numa referência ao que Orson Welles fez em A Guerra dos Mundos [uma transmissão rádio que simulou a invasão do país por extraterrestres, inspirada no livro de H. G. Wells]. Outro aspeto é que o Touro Enraivecido é um Trump de esquerda, pois os candidatos populistas tanto podem vir da direita como da esquerda. Mas o mais importante é ser uma caricatura do wokismo. O que faço neste livro, e que é tradicional na ficção científica, é pegar em realidades atuais e levá-las às consequências finais. A lógica do wokismo é que os brancos são colonialistas: fizeram um genocídio e tiraram terra aos índios. A conclusão lógica é devolvê-la, e em vez dos Estados Unidos haver uma confederação de tribos, cada qual com o seu território. Quis mostrar o absurdo das posições atuais..Vê o wokismo como meramente irritante ou mesmo como uma ameaça para a democracia?É muito irritante, mas seria ótimo se fosse apenas irritante. O wokismo é um perigo mortal para a democracia nos Estados Unidos e noutros países, onde infelizmente se propaga. Hoje em dia, no ensino, na comunicação social, na política, e também nas empresas, a América está dominada cada vez mais por um totalitarismo inacreditável. Colegas meus que vieram da União Soviética e de países semelhantes reconhecem estes fenómenos como sendo o que se passa em regimes totalitários. As pessoas imigram por acreditarem em certos ideais e, ao chegarem cá, ficam de boca aberta a ver o que se passa nos Estados Unidos. Já vimos isso acontecer com a Revolução Cultural na China e no Camboja. Aliás, há um romance muito famoso, chamado It Can’t Happen Here [sobre a ascensão do fascismo na América dos anos 30]. Com o wokismo pode acontecer, e está a acontecer. É preciso alertar as pessoas e convencê-las a combatê-lo..Nos últimos anos, foi do centro-esquerda para o centro-direita. Seria capaz de escrever um livro como este sem essa mudança?Colin Wright, um biólogo da evolução que ficou muito impopular ao dizer várias coisas verdadeiras, nas quais as pessoas não querem acreditar, defende que há 20 anos estava no centro-esquerda do espetro político, tal como eu, e ficou no mesmo sítio, mas o espetro estendeu-se à esquerda de forma espetacular, pelo que agora está no centro-direita sem ter mudado. É o que se está a passar com o wokismo: coisas que parecem extremistas e absurdas tornam-se norma em cinco ou dez anos. Ronald Reagan começou por ser democrata, e nos anos 80 dizia: “Eu não deixei o Partido Democrata; o Partido Democrata é que me deixou a mim.” É mesmo isso..Já decidiu em quem irá votar nas presidenciais?Ainda não, mas há quatro anos votei Biden e neste momento é mais provável que vote Trump. Não gosto dele absolutamente nada, mas é o menor dos males. O mais importante para mim não é a pessoa em si - cada um deles tem problemas, muito diferentes e grandes, pois Trump é uma pessoa horrível e Kamala Harris completamente incompetente -, mas como será o governo dos republicanos ou dos democratas. Penso que deve haver pelo menos quatro anos de republicanismo para compensar os disparates destes quatro anos. A tendência para um wokismo cada vez mais extremo só irá piorar com Kamala Harris, e Trump, apesar dos disparates, vai nomear pessoas e tomar medidas que irão combatê-lo..Calculo que, enquanto especialista em IA e em Aprendizagem das Máquinas, imaginar o Presibot foi algo que o estimulou.O prato forte do livro é tudo o que são o Presibot 1.0 e o Presibot 2.0. Um terço de 2040 foi escrito em 2018, antes de aparecer o ChatGPT, quando a OpenAI era conhecida por nós mas não pelo público em geral. A KumbAI é uma caricatura da OpenAI e o Presibot 1.0 uma descrição muito realista de como é um chatbot hoje em dia. Apesar da sátira, um dos objetivos é apresentar a IA como realmente é, ao contrário das fantasias de ficção científica que proliferam. O Presibot 1.0 é muito realista nas forças e fraquezas. O Presibot 2.0 é o que penso que a IA deverá vir a ser, com crowdsourcing em tempo real, o que leva a uma democracia que funciona muito melhor do que aquela que temos hoje..A governação mediante a vontade direta do povo, numa espécie de crowdgoverning, não contraria o que deveria ser a IA?Pelo contrário, o que as pessoas pensam hoje da IA tem a ver com a imagem que têm dela e que é mais ou menos distorcida em relação à realidade. Um dos pontos principais que tento combater com este livro é que as pessoas, perante uma entidade de IA como o Chat GPT ou como o Presibot, têm tendência a atribuir-lhe características humanas. Pensam que está ali uma pessoa, com emoções, vontade e consciência, mas não é nada disso. Na realidade, é a combinação das inteligências humanas que produziram os testes em que foi treinada, que a programaram e que a controlam. A gente tem de ser capaz de olhar, através da IA, para as pessoas que estão por detrás. O Presibot tenta tornar isso explícito e em tempo real, o que começa a ser possível. E isso não é mau, é bom. Penso que o grande potencial da IA é aumentar a nossa inteligência coletiva - não só a individual, mas a coletiva. De certa forma, 2040 é uma tentativa de ilustrar essa ideia..Uma das personagens diz que “a América não pode ser otimizada porque as pessoas querem demasiadas coisas contraditórias”. Certo é que os eleitos humanos têm sempre que lidar com isso...Satirizo no livro a tecnocracia ingénua, infelizmente muito comum em Silicon Valley neste momento. Pensam que os problemas sociais se resolvem apenas com soluções tecnológicas e isso ignora coisas muito importantes, como não haver necessariamente um objetivo único. Na teoria dos jogos há múltiplos agentes com múltiplos objetivos. E a teoria dos jogos é a fundação matemática, tanto das ciências sociais como da evolução. O Presibot 2.0, em vez de estar a teorizar, diz que o facto de haver contradições não é um bug, pois o papel dessa inteligência coletiva social é resolver as contradições usando mecanismos que já existem - e que podem ser mais desenvolvidos..A ideia de trocar “funcionários governamentais incompetentes por máquinas incorruptíveis” é algo de que o eleitorado poderia hoje ser facilmente convencido?Estamos ainda muito longe dessa possibilidade, mas os seres humanos e as entidades de IA têm vantagens e desvantagens diferentes e complementares, pelo que o ideal é combinar os dois. O Presibot 2.0 não é a substituição dos políticos humanos por entidades de IA, porque quem o controla é o pessoal da KumbAI..Ao contrário de George Orwell, que não pôde ver se 1984 seria como previu em 1948, calculo que planeia estar cá daqui a 16 anos. Ficará muito surpreendido se a sua sátira tiver muitos pontos de contacto com a realidade?Parte da inspiração para 2040 foi 1984, que Orwell escreveu como um aviso às pessoas, dizendo “tenham cuidado, porque se não nos acautelarmos é isto o que vai acontecer”. O meu objetivo também é alertar as pessoas. E o que mais gostaria é que 2040 fosse precisamente o oposto do que escrevi no livro.

Pedro Domingos: “A inteligência artificial leva a uma democracia que funciona melhor do que aquela que temos hoje”

Artigos Relacionados