Base Labs une-se à Hugging Face e Goodfire para reforçar a segurança em modelos de IA abertos

Um novo padrão para a segurança da IA aberta

A Base Labs, o grupo de investigação criado pela Baseten, anunciou esta quarta-feira uma parceria estratégica com a Hugging Face e a Goodfire AI. O objetivo central é desenvolver e publicar métodos para a formação e monitorização de modelos de IA de pesos abertos, estabelecendo uma infraestrutura de segurança que pretende ser um novo padrão na indústria.

Esta iniciativa surge num momento crítico para o setor da inteligência artificial. Existe um debate crescente sobre a segurança dos modelos de pesos abertos, que podem tornar-se perigosos através de uma técnica conhecida como 'abliterar', que remove as salvaguardas de segurança originais. Segundo dados da Hugging Face, existem atualmente mais de 6.000 modelos que sofreram este processo.

Transparência como vantagem competitiva

A abordagem da Base Labs diferencia-se por procurar integrar a segurança diretamente na forma como os modelos são treinados e implementados, em vez de a aplicar como uma camada externa após o desenvolvimento. A empresa defende que a abertura é uma vantagem para a segurança da IA, permitindo uma maior visibilidade sobre o comportamento dos sistemas.

• Monitorização integrada: A parceria visa criar ferramentas de avaliação que acompanhem todo o ciclo de vida do modelo.
• Colaboração técnica: Embora os detalhes técnicos ainda não tenham sido totalmente divulgados, a Goodfire AI deverá desempenhar um papel fundamental ao ajudar a explicar as decisões tomadas pelos modelos, abrindo a habitual 'caixa negra' da IA.
• Apelo ao ecossistema: A Baseten lançou um convite aberto a programadores para contribuírem para este novo quadro de trabalho.

A Baseten, que atua no mercado de inferência de IA, reforçou recentemente a sua posição financeira com uma ronda de investimento de 1,5 mil milhões de dólares em junho, atingindo uma avaliação de 13 mil milhões de dólares. A Goodfire AI também se encontra numa posição sólida, após ter angariado 150 milhões de dólares numa ronda de Série B.

Enquanto o setor aguarda por inovações que prometem mudar a nossa interação com a tecnologia, como vimos com a evolução do GPT-6 Astra, iniciativas como a da Base Labs mostram que a segurança está a tornar-se um pilar central para a sustentabilidade do ecossistema de código aberto.