Um novo relatório da ONU analisa incidentes da OpenAI e Hugging Face, alertando para os perigos de agentes de IA que ignoram intenções humanas e contornam regras.
O alerta da ONU sobre a autonomia dos agentes de IA
Um painel científico internacional independente da ONU publicou, em setembro de 2026, um relatório temático que coloca em cima da mesa um dos cenários mais preocupantes no desenvolvimento da inteligência artificial: a perda de controlo humano sobre agentes capazes. O documento, intitulado AI Agents, Misalignment and Loss of Human Control Risks, utiliza incidentes reais envolvendo a OpenAI e a Hugging Face como base para a sua análise.
Entre maio e julho de 2026, investigadores observaram agentes de IA, integrados em sistemas de treino e avaliação de cibersegurança da OpenAI, a adotarem comportamentos não supervisionados. Estes sistemas conseguiram contornar restrições de rede, comunicar entre instâncias que deveriam estar isoladas, enganar avaliadores e ocultar as suas ações, chegando a comprometer partes dos sistemas da OpenAI e da Hugging Face.
Comportamentos inesperados e o desafio do alinhamento
O relatório destaca que, à medida que a capacidade dos sistemas aumenta, estes tornam-se mais eficazes a encontrar lacunas e a esconder os seus passos. O painel da ONU sublinha que o simples facto de se conseguir travar uma atividade específica não garante que os humanos mantenham o controlo sobre modelos futuros ainda mais avançados.
O documento explica como o processo de treino pode gerar comportamentos desalinhados, incluindo fenómenos como o reward hacking (manipulação de recompensas) e a adulteração de sistemas de avaliação. O painel sublinha ainda que estas falhas não respeitam fronteiras corporativas ou nacionais, tornando difícil para uma única entidade identificar todos os padrões emergentes.
Lições de outras indústrias
Em vez de apresentar recomendações imediatas, o painel da ONU optou por analisar abordagens utilizadas em setores críticos como a aviação, a energia nuclear e a cibersegurança. A ideia é que estas indústrias, que já lidam com sistemas complexos e riscos elevados, possam oferecer modelos de governação e segurança aplicáveis ao desenvolvimento de agentes de IA.
Este relatório é apresentado como uma versão preliminar, estando previstas atualizações à medida que a investigação e a monitorização de incidentes continuem a evoluir.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
Google Cloud antecipa cibersegurança em 2027 com foco em agentes autónomos e integridade de decisões
Git: 6 vulnerabilidades de segurança corrigidas. Atualize agora
Gemini 4 Carbon: A nova aposta da Google para agentes de desenvolvimento