Rei Carlos quer ser o adulto na sala da IA e chamar os seus patrões à razão
O rei Carlos III vai reunir-se com os líderes das empresas de inteligência artificial mais importantes do Ocidente para questioná-los como é que a tecnologia pode ser desenvolvida para “o bem da humanidade”. Uma pergunta na ordem do dia, horas depois de o patrão da Anthropic ter reconhecido o perigo de manter a velocidade de cruzeiro atual, no que foi secundado pelos homólogos da Open AI, SpaceXAI, e Google DeepMind.
Segundo uma fonte oficial citada pelo The Sunday Times, o monarca britânico espera que as discussões conduzam a uma “compreensão mais profunda” das “responsabilidades” inerentes ao desenvolvimento da IA. "Ele quer fazer a pergunta: ‘Seria útil ter um conjunto de princípios?’. Ele acha que não é uma tarefa fácil, mas isso não quer dizer que não devêssemos tentar", disse a citada fonte.
De acordo com o mesmo jornal, a reunião acontecerá na Escócia e terá a participação dos patrões da Nvidia, Anthropic, Google DeepMind e OpenAI. O conselheiro do papa Leão para assuntos de tecnologia e inteligência artificial, Paolo Benanti, também estará presente.
A Fundação Ditchley, cujo trabalho assenta na relações anglo-americanas e faz parte da organização do evento, elaborou um projeto de uma carta de princípios para os líderes de IA adotarem. A carta inclui um “conjunto de princípios partilhados” para “orientar a futura aplicação da IA, não apenas como uma força para capacidade e eficiência, mas como uma ferramenta que respeita a dignidade humana e contribui para o bem-estar das pessoas e do planeta”.
No sábado, o diretor-geral da Anthropic reconheceu que é preciso “abrandar” a melhoria da IA “para que a prevenção de riscos consiga acompanhar o ritmo”, escreveu Dario Amodei no seu site pessoal. A ideia foi secundada rapidamente por Sam Altman (OpenAI) e Elon Musk (SpaceXAI). Na terça-feira, ao demitir-se da Anthropic, Jacob Coxon (também ex-funcionário da OpenAI), criticou a inércia das duas rivais. "Nenhuma das duas empresas age de forma responsável. Elas estão a avançar a todo o gás para uma superinteligência capaz de se autoaperfeiçoar e estão a brincar com as nossas vidas", escreveu na rede social X.
