Rei Carlos III alerta para os perigos da Inteligência Artificial

O Rei Carlos III reuniu líderes tecnológicos e governamentais para discutir os riscos existenciais da IA, apelando a mecanismos de controlo globais.

Um apelo real à prudência tecnológica

O Rei Carlos III organizou esta quinta-feira uma cimeira privada que reuniu figuras de topo do setor tecnológico e do governo britânico. O encontro, focado no futuro da Inteligência Artificial, contou com a presença de Jensen Huang (Nvidia), representantes da OpenAI e Anthropic, bem como o novo ministro da IA do Reino Unido, Kanishka Narayan, e o chefe dos serviços de inteligência estrangeira britânicos.

A intervenção do monarca destacou-se pela sua natureza invulgar, dado que a família real britânica evita habitualmente temas políticos sensíveis. No entanto, o Rei não hesitou em classificar o ritmo de desenvolvimento da IA como algo "intrigante e profundamente preocupante".

Riscos existenciais e a necessidade de controlo

Durante o seu discurso, o Rei Carlos III sublinhou que, embora a tecnologia possa salvar vidas na medicina e na ciência, existe um risco crescente de as máquinas desenvolverem "capacidades mais sombrias". O monarca foi direto na sua mensagem:

• É necessária uma cooperação internacional para estabelecer mecanismos de controlo.
• O desenvolvimento tecnológico deve servir a humanidade, a comunidade e o mundo natural.
• Existe o perigo real de a tecnologia cair em mãos erradas e ser usada de forma catastrófica.

Este alerta surge num momento de tensão no setor, marcado por debates sobre a segurança dos modelos de linguagem e a recente decisão da Anthropic de restringir o acesso aos seus modelos Fable e Mythos apenas a utilizadores nos EUA, levantando questões sobre a soberania tecnológica na Europa.

Um cenário de incerteza

A cimeira reflete a complexidade crescente onde os interesses das grandes empresas tecnológicas colidem com as preocupações da sociedade e dos governos. Enquanto figuras como Sam Altman e Dario Amodei pediram recentemente uma desaceleração no desenvolvimento, outros líderes, como Jensen Huang, mantêm uma postura de competitividade agressiva, especialmente face à China.

O Rei Carlos III, que já tinha abordado o tema em 2023 e 2024, reforçou que a tarefa dos líderes presentes não é apenas avançar com a tecnologia, mas garantir que esta se mantém ao serviço do bem público. A reunião durou cerca de 20 minutos, deixando os convidados a debater as implicações destas questões.