Satya Nadella defende "travão de emergência" para modelos de IA

O CEO da Microsoft, Satya Nadella, defende a implementação de um "travão de emergência" e maior controlo humano na arquitetura de confiança da IA.

Uma nova abordagem à segurança da IA

Satya Nadella, CEO da Microsoft, partilhou recentemente a sua visão sobre a evolução da segurança na inteligência artificial. Numa publicação recente, o executivo defendeu que a indústria deve "recuar e avaliar a arquitetura de confiança" dos modelos de IA, sublinhando que não é possível tratar sistemas de superinteligência como "caixas negras" onde apenas aceitamos ou rejeitamos os resultados.

Segundo Nadella, a abordagem atual deve evoluir para uma separação clara entre o modelo de IA e o sistema que orquestra as suas tarefas. Esta estratégia visa garantir que os controlos e salvaguardas sejam externalizados, permitindo uma supervisão mais rigorosa e transparente.

Pilares da proposta de Nadella

A proposta do líder da Microsoft assenta em pontos fundamentais para aumentar a segurança operacional:

• Evidência auditável: Cada ação significativa realizada por um modelo deve ser documentada com provas legíveis por humanos e à prova de adulteração.
• Controlo humano direto: Implementação de sistemas onde uma pessoa autorizada tenha sempre a capacidade de pausar ou encerrar um modelo a meio de uma tarefa.
• Segurança por defeito: Assumir que um modelo pode estar comprometido desde o início, tratando a sua contenção como uma prioridade.

Nadella comparou este mecanismo de segurança a um "travão de emergência", sublinhando a necessidade de uma postura mais cautelosa face aos incidentes onde empresas de IA demonstraram dificuldades em manter o controlo total sobre os seus sistemas. Esta posição surge num contexto de crescente debate sobre o desenvolvimento responsável da IA, alinhando-se com preocupações manifestadas por outros líderes do setor, como Dario Amodei, CEO da Anthropic.

Para os utilizadores e empresas em Portugal, estas discussões refletem a preocupação das grandes tecnológicas em criar camadas de segurança mais robustas, especialmente à medida que a integração de IA se torna mais profunda em sistemas operativos e ferramentas de produtividade, como temos observado nas recentes atualizações da Microsoft.

Fontes

• https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/