Demis Hassabis propõe novo quadro regulatório para modelos de IA de fronteira

O CEO da Google DeepMind defende a criação de um organismo de normas para testar modelos de IA de fronteira e mitigar riscos globais.

Uma abordagem dinâmica para a segurança da IA

Demis Hassabis, CEO da Google DeepMind, apresentou uma proposta para a criação de um quadro regulatório destinado a modelos de Inteligência Artificial (IA) de fronteira. O objetivo é estabelecer protocolos de teste dinâmicos que acompanhem a rápida evolução tecnológica, garantindo que a inovação ocorra de forma responsável.

Segundo Hassabis, estamos perante um momento histórico, com a Inteligência Artificial Geral (AGI) a aproximar-se. O autor defende que, embora a tecnologia tenha um potencial transformador comparável à descoberta da eletricidade, é necessário implementar salvaguardas robustas para lidar com riscos emergentes em áreas como a cibersegurança, ameaças biológicas e nucleares.

Proposta de um organismo de normas

O quadro sugerido prevê a criação de um organismo de normas, inspirado em modelos de parceria público-privada como a FINRA nos Estados Unidos. Este organismo seria responsável por:

• Desenvolver protocolos de avaliação científica para modelos de fronteira.
• Colaborar com laboratórios nacionais para testar capacidades em domínios de alto risco.
• Definir limites de desempenho que classifiquem um sistema como 'Frontier-class'.
• Promover a partilha voluntária de modelos para revisão antes do lançamento comercial.

Os laboratórios que desenvolvessem estes modelos seriam designados como 'Frontier Labs', sendo incentivados a adotar boas práticas, como a manutenção de cibersegurança interna rigorosa e a publicação de detalhes técnicos sobre os modelos.

O futuro da colaboração global

Hassabis sublinha que a incerteza atual exige uma estratégia de otimismo cauteloso. A proposta não se limita ao contexto dos EUA, servindo como um ponto de partida para a criação de padrões internacionais partilhados. O autor enfatiza que a gestão da AGI não deve ser deixada apenas a cargo de tecnólogos, mas sim envolver toda a sociedade para definir os valores e modelos económicos necessários para o futuro.

O artigo, publicado no DeepMind Institute, reflete as ideias pessoais de Hassabis, que recentemente foi distinguido com o Prémio Nobel da Química pelo seu trabalho no AlphaFold.