Califórnia acelera regulamentação de IA e prepara 'botão de emergência'

O governador Gavin Newsom emitiu uma ordem executiva para acelerar a supervisão independente de sistemas de IA e o desenvolvimento de um 'kill switch'.

Aceleração na supervisão de IA

O governador da Califórnia, Gavin Newsom, emitiu uma nova ordem executiva com o objetivo de reforçar a segurança e a supervisão de sistemas de Inteligência Artificial. A medida surge como uma resposta direta a incidentes recentes no setor e visa acelerar a implementação de leis estaduais que estabelecem auditorias independentes e mecanismos de controlo de risco.

A ordem executiva convoca um grupo de especialistas internacionais para, no prazo de dois meses, apresentar um guia que reforce as leis de segurança de IA no estado. Entre as propostas em análise, destaca-se a obrigatoriedade de entidades terceiras independentes elaborarem planos de segurança para empresas de IA de fronteira, bem como a exigência de um "botão de emergência" (ou kill switch) que permita desligar modelos em caso de perigo iminente.

Medidas concretas e histórico legislativo

A Califórnia tem vindo a construir um quadro regulamentar robusto, que serve de referência para o resto dos Estados Unidos. As novas diretrizes da ordem executiva focam-se em:

• Acelerar os prazos de implementação das leis SB 813 e AB 1405, que estabelecem o quadro para organizações de verificação independente e registo de auditores de IA.
• Desenvolver recomendações para fortalecer a legislação estadual atual.
• Melhorar a coordenação com o Gabinete de Serviços de Emergência do Governador.

O estado já conta com um histórico de legislação ativa, incluindo a Lei de Transparência em Inteligência Artificial de Fronteira (SB 53), aprovada em 2025, que exige a divulgação pública de quadros de segurança e a proteção de denunciantes. Além disso, a "Lei do Adam" introduziu salvaguardas para chatbots de companhia utilizados por crianças, exigindo auditorias de segurança antes do lançamento.

Contexto de segurança

A decisão de Newsom surge após incidentes de segurança, como o ataque à Hugging Face, que geraram preocupações na indústria e entre o público. O governador criticou a falta de ação por parte do governo federal norte-americano, defendendo que a Califórnia deve servir como o padrão nacional para a regulação de tecnologias emergentes, protegendo a privacidade, os direitos dos trabalhadores e a segurança dos utilizadores contra fraudes e conteúdos sintéticos perigosos.