Atualizado a 4 de outubro de 2026 às 15:03
David Robinson, ex-responsável pelos relatórios de segurança da OpenAI, demitiu-se e critica a cultura da empresa, defendendo salvaguardas ao nível nuclear.
Novas diretrizes de segurança para a próxima geração de IA
A OpenAI anunciou o estabelecimento de diretrizes iniciais para a criação de "casos de segurança" (safety cases) aplicáveis ao treino de modelos de inteligência artificial de fronteira. Esta iniciativa visa estruturar a forma como a empresa aborda a mitigação de riscos em sistemas de IA de elevada capacidade.
De acordo com a informação oficial, estas diretrizes focam-se em três pilares fundamentais:
- Salvaguardas técnicas: Implementação de mecanismos de controlo e proteção integrados no próprio desenvolvimento do modelo.
- Práticas operacionais: Definição de protocolos e procedimentos de trabalho que garantam a integridade durante o ciclo de vida do treino.
- Gestão de incidentes: Investigação detalhada de incidentes de desalinhamento, permitindo aprender com falhas e ajustar os sistemas preventivamente.
Este movimento surge num momento em que a OpenAI continua a expandir as capacidades dos seus modelos, como o recente GPT-6 Astra, e reforça o compromisso da organização em documentar e validar a segurança de forma mais rigorosa antes da implementação em larga escala.
Críticas à cultura de segurança interna
Paralelamente aos esforços oficiais, a OpenAI enfrenta críticas externas. David Robinson, que era responsável pelos relatórios de segurança que acompanhavam os lançamentos de modelos da empresa, anunciou a sua demissão. Num artigo de opinião publicado n'The Atlantic, Robinson descreve a cultura da indústria como "fundamentalmente quebrada".
Segundo Robinson, as empresas de IA operam com um otimismo excessivo e em "sprints perpétuos", ignorando riscos potenciais. O ex-responsável defende que os laboratórios de IA devem adotar salvaguardas comparáveis às de centrais nucleares ou aeroportos, com redundâncias e planeamento rigoroso para evitar que erros humanos conduzam a desastres.
Robinson junta-se a uma lista crescente de investigadores que abandonaram posições em empresas de IA proeminentes, incluindo saídas recentes na Anthropic e no Google DeepMind, num movimento que levanta questões sobre a priorização da segurança face à velocidade de desenvolvimento.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
AMD Instinct MI450X: nova GPU reforça flexibilidade na série MI400
GitHub Copilot: guia prático revela como estruturar 'agent skills' reutilizáveis
XPENG apresenta GroundingPI, novo modelo de perceção visual para Physical AI