Deepfake. Depois da Rainha a dançar, um Presidente a declarar guerra?*

Substituir digitalmente o rosto de uma pessoa num vídeo, de forma a que alguém pareça estar a fazer algo que nunca fez -- na gíria da internet, o Deepfake -- é uma coisa que se consegue com êxito desde, pelo menos, o início deste século.

Uma das primeiras aplicações, se não mesmo a primeiríssima, deste tipo de tecnologia digital foi a pornografia. (Aliás, a indústria porno é um dos heróis subvalorizados do desenvolvimento da Internet. Não teríamos streaming eficiente de vídeo -- logo, não haveria Netflix -- se não tivesse havido tanto interesse de tanta gente em partilhar clips de vídeos de sexo no tempo em que a ligação à net se fazia pelas linhas telefónicas de cobre.)

O aparente passatempo de substituir a cara de atrizes porno por outras pessoas -- algo que, seja como for, não é inócuo: que o digam as atrizes que viram as carreiras postas em causa por vídeos que nunca fizeram ou as miúdas criticadas ou ostracizadas por quem acreditou nas imagens falsas que receberam nas caixas de Snapchat -- transformou-se hoje em dia numa poderosa e facilmente disponível ferramenta, cujas aplicações são imensas.

Este Natal, o britânico Channel 4 fez uma brincadeira em que, usando Deepfake, criou um "discurso alternativo" da Rainha Isabel II, que foi para o ar no mesmo dia em que a monarca transmitia, na BBC, a tradicional mensagem natalícia.

YouTubeyoutubeIvY-Abd2FfM

A iniciativa foi muito criticada por vários setores, desde aqueles que acham que "com a rainha (ou outra autoridade qualquer) não se brinca", aos que simplesmente acham que tudo o que seja assim para o assustador é melhor esconder.

Nada mais errado.

Para já, porque francamente se pode e deve brincar com tudo. Se algo existe que separa a espécie humana dos outros animais é o sentido de humor. Mesmo a capacidade de criar tecnologia encontra-se noutras espécies (em forma menos elaborada, obviamente, mas fazem-no). Infelizmente, a cultura atual dominante de proibir, sonegar, mandar calar o que "parece mal" ou sai da norma está progressivamente a matar uma das maiores invenções da humanidade: a capacidade de se rir de si própria.

Em segundo lugar, porque este vídeo do Channel 4, precisamente por ser disparatado, é uma boa demonstração de como o Deepfake se pode, com relativa facilidade, aplicar a um chefe de Estado. Por isso, não se deve esconder do mundo a capacidade e potencialidade de tal arma. Deve-se mostrá-lo, para que toda a gente esteja ciente de que tal existe.

Aliás, tão importante quanto o vídeo original é o making of que o próprio Channel 4 divulgou no mesmo dia.

YouTubeyoutubealc6R_UfPkc

O canal britânico utilizou meios profissionais para fazer a sua brincadeira, e francamente a cara da Rainha, mesmo assim, está um pouco plástica. Já vi coisas mais bem feitas.

Alguns exemplos...

Um fã que pegou nos rostos dos atores originais que faziam de Kirk, Spock e McCoy e os colocou nos filmes recentes de Star Trek:

YouTubeyoutubekfQ0og_x9OI

Um fã que não gostou da versão totalmente digital da Princesa Leia de Star Wars (demasiado plástica, de facto) e a "corrigiu" com Deepfake:

YouTubeyoutubebyKy9kGnyvo

Ou até um fã que, inspirado por uma cena de um outro filme, resolveu substituir Arnold Schwarzenegger pelo rival Sylvester Stallone em Terminator.

YouTubeyoutubeAQvCmQFScMA

Isto tudo feito por gente sem sair de casa, com software disponível na Internet. Só é preciso algum tempo, um computador com potência suficiente para editar vídeo, um pouco de talento e muuuuita vontade e paciência.

Como as amostras juntas demonstram, os resultados "domésticos" têm momentos em que são melhores que os produtos "profissionais". E como o caso da Rainha Isabel II exemplifica, ninguém que tenha na vida sido filmado está isento de passar por este processo.

Há três dias, a 11 de janeiro, a Reuters noticiava que um vídeo de Donald Trump em que ele reconhecia a vitória de Joe Biden não era um "Deepfake confirmado". No entanto, quando se ia ao "fact check" do Facebook, este dizia tratar-se de um vídeo falso.

Os jornalistas da Reuters, depois de nitidamente terem ficado numa situação em que não sabiam bem em quem acreditar - afinal fonte oficial da Casa Branca não é de fiar; e nenhuma fonte considerável credível afirma, de facto, ser uma gravação manipulada - tiveram de recorrer a especialistas de análise de vídeo para concluir que se tratará de uma gravação legítima.

Só que, aparentemente, o Facebook não recebeu o "memorando"...

Como a própria Reuters escreve, o vídeo foi difundido por media tradicionais, tais como esta mesma agência, a CNN e a Fox News.

E isto é só uma amostra do que seguramente vai ser usado no futuro, na política. Os ingredientes já estão todos disponíveis, é só uma questão de tempo até alguém os combinar todos.

Só para variar de Trump: há três anos foi relativamente fácil pôr Barack Obama a dizer o que não disse:

YouTubeyoutube3mNf1euL3vI

A tecnologia melhorou entretanto. Daqui a uns meses, quem sabe o que porão a dizer Joe Biden, ou Kamala Harris, ou Elon Musk, ou Tim Cook, ou....

Quem sabe quantos acreditarão... Entre eles, quantos jornalistas...

As consequências serão bem reais. E não é preciso que sejam o estalar de uma guerra. Um vídeo destes pode provocar uma queda nos mercados, um momento de tensão diplomática ou até, quem sabe, uma nova invasão de um Capitólio qualquer.

Não é uma questão de saber se isto acontecerá, é certo que algo do género vai acontecer. Espantar-me-ia se não acontecesse mesmo durante este ano.