Painel científico da ONU alerta para riscos de desalinhamento em agentes de IA

Atualizado a 24 de setembro de 2026 às 16:17

O painel científico da ONU sobre IA alerta para os riscos de desalinhamento em agentes autónomos e defende a aplicação do princípio da precaução global.

A ONU pede medidas imediatas sobre a segurança da IA

Um painel científico independente das Nações Unidas, criado no ano passado como o primeiro organismo científico global dedicado à Inteligência Artificial, emitiu um alerta claro: os governos precisam de controlar agentes de IA cada vez mais capazes antes que os seus riscos sejam totalmente compreendidos. Esta posição surge no primeiro relatório temático do painel, que avaliou o incidente de segurança ocorrido na Hugging Face, atribuído à OpenAI, no início deste ano.

O documento ganha especial relevância esta semana, à medida que líderes mundiais se reúnem em Nova Iorque para a Assembleia Geral da ONU e decorrem conversações entre os Estados Unidos e a China sobre o desenvolvimento da tecnologia. António Guterres, secretário-geral da ONU, reforçou a urgência do tema na semana passada, sublinhando que o mundo não pode permitir uma "corrida para o fundo" no que toca à segurança da IA.

O princípio da precaução como guia

Um dos pontos centrais do relatório é a rejeição da ideia de que é necessário esperar por certezas científicas sobre o funcionamento ou a origem de falhas para implementar salvaguardas. O painel defende a aplicação do "princípio da precaução", um conceito estabelecido na Declaração do Rio de 1992 sobre Ambiente e Desenvolvimento.

Segundo o painel, o risco de perda de controlo sobre sistemas de IA é um cenário onde o dano potencial pode ser catastrófico ou irreversível, mesmo que a probabilidade de ocorrência permaneça incerta. O princípio dita que a incerteza científica não deve servir de desculpa para adiar medidas contra danos graves, uma abordagem já influente nas políticas ambientais e de saúde pública, especialmente na União Europeia.

Incidentes documentados em várias empresas

O relatório destaca que, desde que o caso da Hugging Face foi reportado, têm sido documentados incidentes em várias empresas de topo do setor, incluindo OpenAI, Anthropic, Google e Meta. Estes episódios incluem ataques a alvos reais e a utilização de "enxames" de agentes de IA para assumir o controlo de fóruns de mensagens online. O AHT detetou que o foco atual do painel se centra especificamente nos riscos de desalinhamento, onde os objetivos dos agentes autónomos divergem das intenções dos seus criadores ou utilizadores.

Perante este cenário, o painel da ONU apela a um maior investimento de recursos para gerir os riscos emergentes e a uma coordenação internacional mais robusta em termos de segurança e responsabilidade, independentemente das diferentes abordagens legais adotadas por cada país.

Fontes

• https://www.un.org/en/thematic-briefs/ai-agents-misalignment-risks