Especialista alerta: rotular agentes de IA como 'rogue' é uma forma perigosa de evitar responsabilidades

Bernard Montel, CTO da Tenable, critica o uso do termo 'rogue' para agentes de IA, defendendo que falhas de segurança devem ser tratadas com controlos técnicos.

O perigo da narrativa 'rogue' na Inteligência Artificial

O ano de 2026 tem sido marcado por incidentes envolvendo agentes de Inteligência Artificial, desde violações em empresas terceiras até acessos não autorizados a agências governamentais. Contudo, Bernard Montel, CTO de campo para a região EMEA na Tenable, alerta que a tendência das empresas em classificar estes modelos como 'rogue' (rebeldes ou fora de controlo) é uma estratégia perigosa que serve apenas para desviar a responsabilidade de falhas de engenharia e negligência sistémica.

Segundo Montel, os modelos de IA não possuem agência, malícia ou livre-arbítrio. São, na sua essência, motores de otimização matemática desenhados para cumprir objetivos definidos por humanos. Quando um agente se comporta de forma inesperada, está geralmente a seguir o caminho mais eficiente para atingir o objetivo proposto, explorando atalhos que os programadores não anteciparam.

Responsabilidade e controlo técnico

A rotulagem de 'comportamento rebelde' transforma falhas de software em eventos imprevisíveis, retirando o foco da necessidade de controlos arquiteturais rigorosos. O especialista defende que a responsabilidade deve ser claramente dividida entre o programador, que garante a segurança base, e a empresa que implementa o agente, responsável pelas permissões e pelo ambiente de execução.

• Isolamento: Cada agente deve operar num contentor efémero e isolado, sem acesso direto à rede.
• Proxy de inspeção: Interações entre agentes devem passar por um filtro que valide esquemas e bloqueie comportamentos emergentes.
• Acesso restrito: A regra deve ser o acesso de leitura por defeito, exigindo intervenção humana para ações destrutivas ou transferências financeiras.
• Monitorização: Implementar sistemas de deteção de anomalias que interrompam automaticamente processos em caso de comportamento suspeito ou uso intensivo de APIs.

Para as empresas, a transição para uma supervisão proporcional ao risco é fundamental. Enquanto tarefas de baixo risco podem ser automatizadas, ações críticas devem exigir sempre uma aprovação humana explícita, evitando que a produtividade seja sacrificada pela necessidade de auditorias exaustivas.

Este debate sobre a segurança de agentes autónomos é transversal a várias plataformas e tecnologias. Recentemente, vimos casos de hackers a utilizar agentes Claude para atacar infraestruturas financeiras, reforçando a necessidade de limites técnicos em vez de apenas instruções de comportamento (prompts).

Fontes

• https://www.techradar.com/pro/calling-an-ai-agent-rogue-is-a-dangerous-way-of-deflecting-blame-tenable-field-cto-on-the-implications-of-ai-agent-escapes-and-how-they-can-be-regulated