A submissão confortável

Imaginemos uma reformada numa aldeia da Beira a quem é recusado um apoio social. O balcão da aldeia fechou no ano passado. A senhora liga para a linha de atendimento e responde-lhe um assistente virtual, simpático e inútil. Ela quer saber porquê, mas o funcionário que assinou a decisão também não sabe, porque foi um sistema informático que a propôs e ninguém o consegue interpretar. Ninguém a maltratou e ninguém lhe impôs nada. Simplesmente deixou de haver alguém a quem perguntar.

É esta a imagem que levaremos no próximo sábado à Assembleia Municipal de Viseu, onde o Observatório Beira debate a pergunta "Inteligência Artificial, Submissão ou Complementaridade?" Não é por acaso que a discussão se faz no interior, pois é ali que as promessas e os riscos desta tecnologia deixam de ser abstratos e merecem a nossa reflexão filosófica, tecnológica e de urgência governativa.

A pergunta que nos foi colocada parece apresentar-nos um destino, como se fosse a máquina a decidir se nos domina ou se nos ajuda. Não é assim, pois a Inteligência Artificial não tem, pelo menos por agora, vontade própria, e por isso essa decisão não lhe pertence. Quando há submissão, ela nunca é à máquina, mas sim a quem a desenha, a quem a possui e a quem a controla.

Pensemos na reformada de que falámos. A mesma tecnologia que lhe fechou o balcão podia ter levado à sua aldeia um médico especialista ou um jurista que, de outro modo, nunca lá chegaria. A ferramenta é a mesma, mas o que muda são as decisões de quem governa.

O problema é que o tempo aperta. Pela primeira vez, uma tecnologia toca ao mesmo tempo a saúde, a justiça, a economia e a guerra, e avança mais depressa do que conseguimos compreendê-la e regulá-la. Os próprios dirigentes das maiores empresas de IA admitem que já não sabem se conseguirão manter sob controlo os sistemas que estão a construir e cada ano de atraso estreita a nossa margem de escolha.

No Grupo dos Futuros da APDSI temos procurado pensar este horizonte a partir de duas grandes incertezas. A primeira é tecnológica, pois será que ficaremos pelos modelos que hoje conhecemos, que respondem quando lhes perguntamos ou daremos o salto para agentes autónomos que agem sozinhos e passam a operar serviços e infraestruturas essenciais? A segunda é geopolítica, pois será que o mundo vai fragmentar-se em blocos rivais, com plataformas sem controlo ou conseguirá construir regras negociadas e cumpridas?

Cruzando estas duas incertezas, desenham-se quatro cenários futuros. No pior cenário, uma corrida sem regras deixa-nos inteiramente nas mãos de quem detém os sistemas. Noutro cenário, a euforia rebenta e os blocos geopolíticos fecham-se sobre si. No melhor dos cenários, a tecnologia avança acompanhada por regras que a põem ao serviço das pessoas.

No entanto, o futuro que mais nos inquieta hoje no nosso país é o quarto cenário, o da submissão confortável, com um mundo ordenado, eficiente e cómodo, onde ninguém nos obriga a nada. Apenas deixamos, pouco a pouco, que a máquina pense, escolha e decida por nós, porque dá menos trabalho. É exatamente o mundo da nossa reformada, onde não houve violência, mas apenas desistência e deslumbramento político pela tecnologia, sem qualquer sensibilidade social.

O que nos empurra para um ou outro destes futuros não é a tecnologia, são as escolhas políticas e essas estão a ser feitas agora.

A primeira escolha é global. As regras internacionais de que dispomos assentam numa Carta das Nações Unidas escrita em 1945, anterior ao próprio computador, e a governação da Inteligência Artificial vive hoje de blocos, regulamentos regionais e recomendações que ninguém se vê obrigado a cumprir. Sem instituições multilaterais globais capazes de tomar decisões vinculativas, nenhuma regra sobre esta tecnologia terá força e eficácia.

Por isso defendemos a convocação de uma conferência de revisão da Carta das Nações Unidas que não fique refém do direito de veto dos cinco membros permanentes do Conselho de Segurança, nem de nenhum poder tecnológico ou bloco geopolítico. Fazemo-lo no âmbito do Grupo dos Futuros da APDSI, com mais de uma centena de associações em todo o mundo integradas na Coligação do Artigo 109.º.

A segunda escolha é nacional. Os modelos de Inteligência Artificial não são neutros. Transportam consigo a língua, a cultura e os interesses de quem os constrói. Se entregarmos os nossos dados, os nossos processos e as nossas decisões a meia dúzia de plataformas estrangeiras, perderemos a soberania sem dar por isso. Um Estado que entrega às consultoras a sua competência técnica já não consegue sequer avaliar o que compra, porque regular exige compreender.

A terceira escolha joga-se dentro da Administração Pública. Comprar um bom sistema não transforma coisa alguma se os dados continuarem dispersos e os processos ficarem por redesenhar. Pôr um assistente virtual à frente de um serviço que não funciona apenas esconde o problema. E quando a máquina decide sobre prestações sociais, vistos ou processos judiciais, o cidadão tem direito a saber porquê e a recorrer para uma pessoa. A boa burocracia é precisamente esta, a que garante direitos em vez de os tornar invisíveis.

A quarta escolha diz respeito ao trabalho e ao pensamento. A Inteligência Artificial pode libertar os funcionários das tarefas repetitivas e devolvê-los ao atendimento humano, desde que haja uma política séria de requalificação. Sem ela, a automação é apenas um corte de custos. E há um risco mais fundo. Quando entregamos à máquina o esforço de analisar e julgar, perdemos a capacidade de o fazer, pois ninguém vigia bem aquilo que já não sabe fazer.

Nada disto é um apelo ao medo. Os benefícios possíveis são imensos, de medicamentos descobertos mais depressa a cuidados de saúde especializados ao alcance de quem vive longe dos grandes centros. O desafio não está no destino, está na travessia das próximas duas décadas.

Voltemos, então, à nossa reformada da Beira. O seu futuro não depende de a máquina ser mais ou menos inteligente. Depende de alguém ter decidido que ela tem direito a uma explicação, a um recurso e a um rosto humano quando precisa. A complementaridade só existe enquanto o humano conservar o poder de dizer não.

As sociedades tendem a agir depois da catástrofe. A pergunta que levaremos a Viseu é se, desta vez, seremos capazes de agir antes. A máquina ainda não governa sozinha, mas se nos submetermos a ela, será porque abdicamos de pensar e de governar.